Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
Vă amintiți că atunci când erați copii, probabil aveați o jucărie preferată care era tovarășul vostru constant, precum Christopher Robin îl avea pe ursulețul Winnie Puh, iar imaginația voastră năștea aventuri nemărginite? Ce poate fi mai inocent decât asta? Ei bine, să v-o prezint pe prietena mea, Cayla.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
Cayla a fost votată jucăria anului în țări din toată lumea. Se conectează la internet și folosește tehnologia de recunoaștere vocală ca să răspundă la întrebările copilului, la fel ca un prieten. Dar puterea nu constă în imaginația copilului tău. Constă, de fapt, în culegerea în masă de informații personale de către companie în timp ce familia ta pur și simplu stă de vorbă în siguranța căminului, un fals simț al siguranței, de fapt. Cazul acesta m-a alarmat, fiindcă e datoria mea să protejez drepturile consumatorilor din țara mea. Și cu milioanele de dispozitive, precum mașini, contoare electrice sau chiar aspiratoare, ce se vor conecta online până în 2020, ne-am gândit că merită să investigăm acest caz mai mult. Dar ce făcea Cayla cu toate lucrurile interesante pe care le afla? Mai avea un prieten căruia îi era fidelă și cu care împărtășea toate informațiile? Da, ați ghicit. Avea. Ca să te joci cu Cayla, trebuie să descarci o aplicație pentru a-i accesa caracteristicile. Părinții trebuie să fie de acord cu termenii care se schimbă fără veste. Înregistrările copilului, prietenilor și familiei, pot fi folosite pentru publicitate orientată. Și toate aceste informații pot fi trimise unor părți terțe.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
Asta e tot? Nu chiar. Oricine are un smartphone se poate conecta la Cayla de la o anumită distanță. Când am confruntat compania care a făcut și programat Cayla, au venit cu o serie de afirmații cum că e nevoie de un expert IT pentru a-i sparge securitatea. Să verificăm această declarație și să spargem securitatea Caylei împreună? Iat-o. Cayla e echipată cu un dispozitiv Bluetooth care poate transmite până la 20 metri, ceva mai puțin dacă e printr-un zid. Asta înseamnă că eu sau orice străin ne putem conecta la păpușă, în timp ce ne aflăm în afara camerei unde se află Cayla și prietenii ei. Pentru a vă lămuri, am s-o pornesc pe Cayla. Unu, doi, trei. E pornită. Am rugat un coleg să stea afară cu telefonul, acum e conectat, și ca să facem lucrurile mai ciudate...
(Laughter)
(Râsete)
let's see what kids could hear Cayla say in the safety of their room.
să vedem ce pot să audă copiii de la Cayla în siguranța camerelor lor.
Man: Hi. My name is Cayla. What is yours?
Bărbat: Bună, numele meu e Cayla. Pe tine cum te cheamă?
Finn Myrstad: Uh, Finn.
Finn Myrstad: Finn.
Man: Is your mom close by?
Bărbat: Mama ta e pe aproape?
FM: Uh, no, she's in the store.
FM: Nu, e la magazin.
Man: Ah. Do you want to come out and play with me?
Bărbat: Vrei să vii afară să te joci cu mine?
FM: That's a great idea.
FM: Ce idee bună!
Man: Ah, great.
Bărbat: Super.
FM: I'm going to turn Cayla off now.
Am s-o opresc pe Cayla acum.
(Laughter)
(Râsete)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
Nu a trebuit nicio parolă sau să evit orice alt tip de securitate pentru a face acest lucru. Am publicat un raport în 20 de țări din întreaga lume, expunând acest defect semnificativ de securitate și multe alte aspecte problematice. Ce s-a întâmplat? Cayla a fost interzisă în Germania, scoasă de pe rafturile din Amazon și Walmart, iar acum se odihnește pașnic la Muzeul German al Spionajului din Berlin.
(Laughter)
(Râsete)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
Totuși, Cayla a mai fost la vânzare în magazine din întreaga lume mai bine de un an după ce am publicat raportul nostru. Ceea ce am descoperit e că există puține reguli care să ne protejeze iar cele pe care le avem nu sunt aplicate corespunzător. Trebuie să obținem securitatea și confidențialitatea acestor dispozitive înainte de a intra pe piață, pentru că ce rost are să închidem o casă cu o cheie dacă oricine poate intra printr-un dispozitiv conectat?
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
Poate vă gândiți: „Nu mi se va întâmpla asta. Voi rămâne departe de aceste dispozitive imperfecte.” Dar asta nu vă va păstra în siguranță, deoarece pur și simplu prin conectarea la internet, sunteți puși într-o poziție imposibilă, „ia-o sau las-o”.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
Lăsați-mă să vă arăt. Ca majoritatea dintre voi, am zeci de aplicații pe telefon, și, utilizate corect, ele ne pot face viața mai ușoară, mai comodă și poate chiar mai sănătoasă. Dar am fost oare amăgiți cu un fals sentiment de securitate? Începe pur și simplu prin bifarea unei căsuțe. Da, spunem, Am citit termenii. Dar ați citit cu adevărat termenii? Sunteți siguri că nu era textul prea lung, iar telefonul vostru nu a rămas fără baterie, iar ultima dată când ați încercat, a fost imposibil de înțeles, și trebuia să utilizați serviciul imediat? Și acum, dezechilibrul puterii e stabilit, pentru că am fost de acord ca informațiile noastre personale să fie colectate și folosite la o scară pe care nu ne-o putem imagina.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
De asta eu și colegii mei am decis să ne uităm mai profund la asta. Ne-am propus să citim termenii aplicațiilor populare pentru un telefon obișnuit. Și pentru a arăta lumii cât de nerealist e să se aștepte ca consumatorii să citească de fapt termenii, le-am tipărit, mai mult de 900 de pagini, ne-am așezat în biroul nostru și le-am citit cu voce tare noi înșine, transmițând experimentul în direct pe site-urile noastre web. După cum puteți vedea, a durat destul de mult. Ne-a luat 31 ore, 49 minute și 11 secunde pentru a citi termenii de pe un telefon obișnuit. Asta înseamnă mai mult decât toate filmele „Harry Potter” și „Nașul” împreună.
(Laughter)
(Râsete)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
Iar lectura este un lucru. Înțelegerea este o altă poveste. Asta ne-ar fi luat mult, mult mai mult. Și aceasta e o problemă reală, deoarece companiile au argumentat timp de 20-30 de ani împotriva reglementării mai bune a internetului, deoarece utilizatorii și-au dat acordul asupra termenilor și condițiilor.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
După cum am arătat cu acest experiment, obținerea consimțământului informat e aproape imposibilă. Credeți că e corect să pună sarcina responsabilității asupra consumatorului? Eu nu cred. Cred că ar trebui să cerem mai puțin „ia-l sau lasă-l” și termeni mai ușor de înțeles înainte de a fi de acord cu ei.
(Applause)
(Aplauze)
Thank you.
Vă mulțumesc!
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
Acum aș dori să vă spun o poveste despre dragoste. Unele dintre cele mai populare aplicații din lume sunt cele de întâlniri, o industrie care valorează acum mai mult sau aproape trei miliarde de dolari pe an. Și bineînțeles, este bine să ne împărtășim detaliile intime cu cealaltă jumătate a noastră. Dar cine altcineva spionează, salvează și partajează informațiile noastre în timp ce ne dezvăluim sufletele? Echipa mea și cu mine am decis să investigăm acest lucru. Pentru a înțelege problema din toate unghiurile și a face cu adevărat o muncă minuțioasă, mi-am dat seama că trebuie să descarc una dintre cele mai populare aplicații de întâlnire din lume.
So I went home to my wife ...
Așa că m-am dus acasă la soția mea...
(Laughter)
(Râsete)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
cu care tocmai mă căsătorisem. „E în regulă dacă îmi fac un profil pe o aplicație populară de întâlniri în scopuri pur științifice?”
(Laughter)
(Râsete)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
Asta am găsit. Ascuns în spatele meniului principal era o casetă pre-marcată care dădea companiei de întâlniri acces la toate pozele personale de pe Facebook, în cazul meu, la peste 2.000, iar unele erau destul de personale. Și pentru a face lucrurile și mai rele, când am citit termenii și condițiile, am descoperit următoarele, și va trebui să îmi scot ochelarii de citit pentru asta. Voi citi eu pentru voi, pentru că este complicat. În regulă.
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
„Prin postarea de conținut”, iar conținutul se referă la imagini, mesaje și alte interacțiuni din serviciul de întâlniri, „ca parte a serviciului, acordați automat companiei, afiliaților, licențiaților și succesorilor un irevocabil” , ceea ce înseamnă că nu vă puteți răzgândi, „perpetuu”, ceea ce înseamnă pentru totdeauna, „neexclusiv, transferabil, sublicențiabil, complet plătit, dreptul și licența globală de a utiliza, copia, stoca, face, afișa, reproduce, înregistra, reda, adapta, modifica, distribui conținut, pregăti lucrări derivate ale conținutului, sau încorpora conținutul în alte lucrări, acordați și autorizați sub licențele celor de mai sus în orice media cunoscută acum sau creată ulterior.”
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
Asta înseamnă practic că toată istoria dumneavoastră de întâlniri și tot ce are legătură cu aceasta poate fi folosit în orice scop tot timpul. Imaginați-vă copiii văzând fotografiile voastre obraznice de întâlnire într-o reclamă la anticoncepționale peste 20 de ani.
But seriously, though --
Dar serios, totuși...
(Laughter)
(Râsete)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
ce ar putea însemna pentru voi aceste practici comerciale? De exemplu, pierderi financiare: pe baza istoricului de navigare web, algoritmii ar putea decide dacă veți primi o ipotecă sau nu. Manipularea subconștientă: companiile vă pot analiza emoțiile pe baza fotografiilor și a mesajelor, bombardându-vă cu anunțuri atunci când sunteți cel mai vulnerabil. Discriminare: o aplicație de fitness poate vinde datele unei companii de asigurări, împiedicându-vă să obțineți asigurare în viitor. Toate acestea se întâmplă în lumea de azi.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
Dar, desigur, nu toate utilizările datelor sunt maligne. Unele sunt imperfecte sau necesită o îmbunătățire, iar unele sunt cu adevărat grozave. Dar există și câteva vești bune. Companiile de întâlniri și-au schimbat politicile la nivel global după ce am depus o plângere. Dar organizații ca a mea, care luptă pentru drepturile consumatorilor, nu pot fi peste tot. Nici consumatorii nu pot repara acest lucru singuri, pentru că dacă am ști că un lucru inocent pe care l-am spus va reveni să ne bântuie, vom înceta să mai vorbim. Dacă știm că suntem urmăriți și monitorizați, ne vom schimba comportamentul. Și dacă nu putem controla cine are datele noastre și modul cum sunt ele utilizate, am pierdut controlul vieții noastre.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
Poveștile pe care vi le-am spus azi nu sunt exemple întâmplătoare. Sunt peste tot, și sunt un semn că lucrurile trebuie să se schimbe. Cum putem realiza această schimbare? Ei bine, companiile trebuie să înțeleagă că acordând intimitate și securitate, ele pot construi încredere și loialitate cu utilizatorii lor. Guvernele trebuie să creeze un internet mai sigur prin asigurarea aplicării normelor la zi. Și noi, cetățenii? Ne putem folosi vocea pentru a aminti lumii că tehnologia poate fi cu adevărat benefică societății dacă respectă drepturile de bază.
Thank you so much.
Vă mulțumesc foarte mult!
(Applause)
(Aplauze)