Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
Lembram-se de que, quando vocês eram crianças, deviam ter um brinquedo favorito que sempre lhes fazia companhia, como o Christopher Robin que tinha o Ursinho Pooh, e uma imaginação que estimulava aventuras infinitas? O que poderia ser mais inocente do que isso? Bem, vou lhes apresentar minha amiga Cayla.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
Cayla foi eleita o brinquedo do ano em países do mundo inteiro. Ela se conecta à internet e utiliza tecnologia de reconhecimento de voz para responder às perguntas das crianças e agir como se fosse uma amiga. Mas o poder não está na imaginação das crianças. Está na empresa que reúne uma grande quantidade de informações pessoais enquanto sua família conversa inocentemente na segurança do lar, com uma perigosa e falsa sensação de segurança. Esse caso chamou minha atenção, pois meu trabalho é proteger os direitos do consumidor em meu país. Com bilhões de máquinas, como carros, medidores de energia e até aspiradores que estarão disponíveis on-line em 2020, achamos que valeria a pena investigar esse caso mais profundamente. O que Cayla estaria fazendo com as informações interessantes que estava aprendendo? Havia outra amiga fiel com quem ela compartilhava essas informações? Sim, vocês adivinharam. Havia. Para brincar com Cayla, é preciso baixar um aplicativo para acessar todas as funcionalidades dela. Os pais têm que aceitar a alteração dos termos de uso sem aviso prévio. As gravações da criança, dos amigos e familiares dela podem ser utilizadas para propagandas direcionadas. Toda essa informação pode ser compartilhada com terceiros desconhecidos.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
É o bastante? Não totalmente. Qualquer um com um smartphone pode se conectar a Cayla a uma certa distância. Quando confrontamos a empresa que criou e programou Cayla, eles publicaram uma série de declarações dizendo que apenas um especialista de TI conseguiria violar a segurança. Vamos verificar essa declaração e invadir Cayla juntos ao vivo? Aqui está ela. Cayla tem um dispositivo "bluetooth" que transmite um sinal em um raio de até 18 m, ou um pouco menos, se houver uma parede no meio. Ou seja, eu ou qualquer estranho pode se conectar à boneca mesmo estando fora do quarto onde estão Cayla e as amigas dela. Para ilustrar isso, vou ligar Cayla agora. Vejamos: um, dois, três. Pronto, está ligada. Pedi a um colega para ficar lá fora com o smartphone dele, e ele já está conectado. Para tornar isto um pouco mais assustador...
(Laughter)
(Risos)
let's see what kids could hear Cayla say in the safety of their room.
vamos ver o que as crianças poderiam ouvir Cayla dizer, na segurança do quarto delas.
Man: Hi. My name is Cayla. What is yours?
Homem: Olá, meu nome é Cayla; e o seu?
Finn Myrstad: Uh, Finn.
Finn Myrstad: Finn.
Man: Is your mom close by?
Homem: Sua mãe está aí?
FM: Uh, no, she's in the store.
FM: Não, foi às compras.
Man: Ah. Do you want to come out and play with me?
Homem: Quer vir aqui fora brincar comigo?
FM: That's a great idea.
FM: É uma ótima ideia.
Man: Ah, great.
Homem: Ah, ótimo.
FM: I'm going to turn Cayla off now.
FM: Vou desligar Cayla agora.
(Laughter)
(Risos)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
Não precisamos de senha, nem passamos por qualquer tipo de segurança para fazer isso. Publicamos uma denúncia em 20 países do mundo inteiro revelando essa significativa falha de segurança e muitos outros problemas. E o que aconteceu? Cayla foi proibida na Alemanha, foi retirada da Amazon e do Wal-Mart e agora está descansando em paz no German Spy Museum, em Berlim.
(Laughter)
(Risos)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
Mas Cayla também esteve à venda em lojas do mundo inteiro durante mais de um ano após publicarmos nossa denúncia. Descobrimos que há poucas regras que nos protegem, e as que temos não estão sendo devidamente aplicadas. Precisamos garantir a segurança e privacidade desses aparelhos antes que cheguem ao mercado, pois qual é o sentido de trancar a porta de casa com uma chave se qualquer um puder entrar por meio de um dispositivo conectado?
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
Talvez vocês pensem: "Isso não vai acontecer comigo. Vou ficar longe desses aparelhos com falhas de segurança". Mas isso não nos manterá seguros, porque basta nos conectarmos à internet para ficarmos em uma posição impossível de "pegar ou largar".
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
Vou lhes mostrar. Como muitos de vocês, tenho dezenas de aplicativos em meu celular. Quando utilizados devidamente, facilitam muito nossa vida e a tornam mais conveniente e até mais saudável. Mas será que fomos acalmados com uma falsa sensação de segurança? Começa simplesmente marcando uma opção. Dizemos: "Sim, li as condições". Mas será que lemos mesmo essas condições? Têm certeza de que não pareciam longas demais, que seu celular estava ficando sem bateria e, na última vez que tentamos, era impossível entendê-las? E precisávamos utilizar o serviço imediatamente? Assim, foi estabelecido o desequilíbrio de poder, pois concordamos que nossas informações pessoais sejam reunidas e utilizadas em uma escala jamais imaginada.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
Foi por isso que meus colegas e eu decidimos fazer uma análise mais profunda. Começamos a ler as condições dos aplicativos populares de um celular comum. Para mostrar ao mundo como é irreal esperar que os usuários leiam realmente as condições, nós as imprimimos. São mais de 900 páginas. Em nosso escritório, nós as lemos em voz alta. Transmitimos a experiência ao vivo em nossos sites. Como podem ver, levou muito tempo. Levamos 31 horas, 49 minutos e 11 segundos para ler as condições de um celular comum. Demorou mais do que uma maratona de filmes do "Harry Potter" e de "O Poderoso Chefão" juntos.
(Laughter)
(Risos)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
E ler é uma coisa. Entender é outra história. Levaríamos muito mais tempo. Esse é um problema real. As empresas têm argumentado por 20 a 30 anos contra uma melhor regulamentação da internet, porque os usuários têm aceitado os termos e as condições.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
Como mostramos nesta experiência, conseguir uma aceitação consciente é quase impossível. Vocês acham justo colocar o peso da responsabilidade no usuário? Eu não acho. Acho que devíamos exigir menos "pegar ou largar" e mais condições compreensíveis antes de concordarmos.
(Applause)
(Aplausos)
Thank you.
Obrigado.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
Agora, gostaria de contar uma história sobre o amor. Alguns dos aplicativos mais populares do mundo são os de encontros, uma indústria que vale atualmente algo em torno de US$ 3 bilhões por ano. É claro que não temos problemas em compartilhar detalhes íntimos com nossa cara-metade. Mas quem mais está espionando, gravando e compartilhando nossas informações enquanto estamos revelando nossa intimidade? Minha equipe e eu decidimos investigar. Para entender o problema de todos os ângulos e fazer realmente um trabalho minucioso, percebi que eu mesmo precisava baixar um dos aplicativos de encontros mais populares do mundo.
So I went home to my wife ...
Então, fui para casa falar com minha esposa...
(Laughter)
(Risos)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
com quem eu acabara de me casar. "Tudo bem se eu criar um perfil num aplicativo de encontros muito popular para fins exclusivamente científicos?"
(Laughter)
(Risos)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
Eis o que encontramos. Escondida atrás do menu principal havia uma opção pré-selecionada que dava à empresa de encontros acesso a todas as minhas fotos pessoais do Facebook. No meu caso, eram mais de 2 mil fotos; algumas muito pessoais. Para piorar as coisas, ao ler os termos e as condições, descobrimos o seguinte. Vou precisar de meus óculos para ler isto. E vou ler, porque é complicado. Está bem.
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
"Ao publicar o conteúdo...", o conteúdo refere-se a fotos, conversas e outras interações no serviço, "como parte do serviço, você garante automaticamente à empresa, associadas, licenciadas e sucessoras, de forma irrevogável...", o que significa que não podemos mudar de opinião, "perpétua...", ou seja, para sempre, "o direito e a licença não exclusiva, transferível, paga, universal para usar, copiar, armazenar, executar, exibir, reproduzir, gravar, tocar, adaptar, modificar, distribuir o conteúdo e preparar derivações dele, ou incorporá-lo a outros trabalhos, permite e autoriza sublicenças de precedentes em quaisquer mídia conhecida ou criada posteriormente".
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
Isso significa que todo o histórico do encontro e tudo relacionado a ele pode ser utilizado para qualquer fim e para sempre. Imaginem seus filhos vendo suas fotos atrevidas de um encontro em um anúncio sobre controle de natalidade daqui a 20 anos.
But seriously, though --
Mas, falando sério...
(Laughter)
(Risos)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
o que essas práticas comerciais significam para vocês? Por exemplo, perda financeira: com base no histórico de navegação, os algoritmos podem decidir se conseguiremos ou não um empréstimo. Manipulação subconsciente: as empresas podem analisar emoções, a partir de nossas fotos e conversas, e nos atacar com anúncios quando estivermos mais vulneráveis. Discriminação: um aplicativo de "fitness" pode vender dados a uma seguradora impedindo-nos de conseguir cobertura no futuro. Tudo isso está acontecendo no mundo atualmente.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
É claro que nem todos os usos de dados são nocivos. Alguns são falhos ou requerem mais trabalho, e outros são realmente ótimos. Mas também há boas notícias. As empresas de encontros alteraram as políticas de forma global depois que registramos uma queixa legal. Mas empresas como a minha, que lutam pelos direitos do consumidor, não podem estar em toda a parte, nem os consumidores conseguem corrigir isso sozinhos, porque, se soubermos que algo que dissemos de maneira inocente voltará para nos atormentar, deixaremos de falar. Se soubermos que estamos sendo vistos e controlados, mudaremos nosso comportamento. E, se não pudermos controlar quem tem nossos dados e como estão sendo utilizados, teremos perdido o controle de nossa vida.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
As histórias que contei hoje não são exemplos aleatórios. Estão por toda a parte e são um sinal de que as coisas precisam mudar. Como podemos conseguir essa mudança? As empresas precisam perceber que, ao priorizar a privacidade e a segurança, podem criar confiança e lealdade para os usuários. Os governos precisam criar uma internet mais segura garantindo o cumprimento e a atualização das regras. E quanto a nós, cidadãos? Podemos usar nossa voz para lembrar ao mundo que a tecnologia só poderá beneficiar verdadeiramente a sociedade se respeitar os direitos básicos.
Thank you so much.
Muito obrigado.
(Applause)
(Aplausos)