Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
Sećate li se da ste, kad ste bili dete, verovatno imali omiljenu igračku koja vam je stalno pravila društvo, kao što je Kristofer Robin imao Vinija Pua, i da je vaša mašta pokretala beskrajne avanture? Šta bi moglo biti bezazlenije od toga? Pa, dozvolite mi da vam predstavim moju prijateljicu Kejlu.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
Kejla je bila igračka godine u zemljama širom sveta. Povezuje se sa internetom i koristi tehnologiju prepoznavanja govora da odgovori vašem detetu na pitanja, odgovara baš kao prijatelj. Ali moć se ne nalazi u mašti vašeg deteta. Nalazi se zapravo u kompaniji koja skuplja gomilu ličnih informacija, dok vaša porodica bezazleno ćaska u bezbednosti svoje kuće - opasno lažan osećaj sigurnosti. Ovaj slučaj me je zabrinuo, jer je moj posao da zaštitim potrošačka prava u svojoj zemlji. Sa milijardama uređaja kao što su automobili, merači energije, čak i usisivači, za koje se očekuje da će biti povezani sa internetom do 2020, pomislili smo da ovaj slučaj vredi dalje istražiti. Jer šta je Kejla radila sa svim interesantnim stvarima koje je saznavala? Da li je imala drugaricu kojoj je lojalna i sa kojom je podelila informacije? Da, dobro ste pogodili. Imala je. Da biste se igrali sa Kejlom, morate da preuzmete aplikaciju kako biste pristupili svim funkcijama. Roditelji moraju da pristanu na promenu uslova bez obaveštenja. Snimci deteta, njenih prijatelja i porodice, mogu da se koriste za ciljano oglašavanje. I sve ove informacije mogu da se podele sa neimenovanim trećim licima.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
Dovoljno? Ne baš. Bilo ko sa pametnim telefonom može da se poveže sa Kejlom unutar određene razdaljine. Kad smo se usprotivili kompaniji koja je napravila i programirala Kejlu, objavili su niz izjava da neko mora da bude stručnjak za IT da bi narušio bezbednost. Hoćemo li da proverimo činjenice te izjave i da uživo zajedno hakujemo Kejlu? Evo je. Kejla poseduje blutut uređaj, koji može da vrši prenos na daljini do 18 metera, malčice manje ako između postoji zid. To znači da ja, ili bilo koji neznanac, mogu da se povežem sa lutkom dok je ispred sobe gde su Kejla i njene drugarice. Da bih ovo prikazao, uključiću Kejlu sada. Da vidimo, jedan, dva, tri. Eto ga. Uključena je. Zamolio sam kolegu da stane ispred sa svojim pametnim telefonom, priključen je, i da načinim ovo jezivijim...
(Laughter)
(Smeh)
let's see what kids could hear Cayla say in the safety of their room.
da vidimo šta su deca mogla čuti da Kejla govori u bezbednosti njihove sobe.
Man: Hi. My name is Cayla. What is yours?
Čovek: Ćao. Moje ime je Kejla. Kako se ti zoveš?
Finn Myrstad: Uh, Finn.
Fin Mirstad: Am, Fin.
Man: Is your mom close by?
Čovek: Da li je tvoja mama u blizi?
FM: Uh, no, she's in the store.
Fin Mirstad: Am, ne, u radnji je.
Man: Ah. Do you want to come out and play with me?
Čovek: Aha. Želiš li da izađeš napolje i da se igraš sa mnom?
FM: That's a great idea.
Fin Mirstad: To je odlična ideja.
Man: Ah, great.
Čovek: Aha, odlično.
FM: I'm going to turn Cayla off now.
Isključiću Kejlu sada.
(Laughter)
(Smeh)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
Nije nam trebala nikakva lozinka, niti da zaobiđemo bilo koji drugi tip zaštite da bismo ovo uradili. Objavili smo izveštaj u 20 zemalja širom sveta, otkrivajući ovu značajnu manu zaštite i mnoga druga problematična pitanja. Pa, šta se desilo? Kejla je bila zabranjena u Nemačkoj, skinuta sa rafova u radnjama Amazona i Volmarta, i sada mirno počiva u nemačkom muzeju špijunaže u Berlinu.
(Laughter)
(Smeh)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
Međutim, Kejla je bila u prodaji u radnjama širom sveta više od godinu dana nakon što smo objavili izveštaj. Otkrili smo da postoji samo nekoliko zakona koji nas štite, a oni koje imamo ne primenjuju se kako treba. Treba da dovedemo u red zaštitu i privatnost ovih uređaja pre nego što izađu na tržište, jer koja je poenta zaključavanja kuće ključem, ako bilo ko može da uđe u nju preko povezanog uređaja.
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
Možda mislite: „Ovo se neće desiti meni. Držaću se podalje od tih uređaja sa nedostatkom.“ Ali time nećete biti sigurni, jer jednostavno, povezujući se sa internetom, stavljeni ste u nemoguću poziciju „uzmi ili ostavi“.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
Dozvolite mi da vam pokažem. Kao i većina vas, imam desetine aplikacija na telefonu, i kad se koriste ispravno, mogu nam olakati život, učiniti ga ugodnijim, a možda čak i zdravijim. Ali da li smo uljuljkani u lažan osećaj sigurnosti? Počinje prostim klikom na kvadratić. Da, onda kažemo, pročitao sam uslove. A da li ste ih zaista pročitali? Jeste li sigurni da nisu izgledali predugačko, i da vašem telefonu nije ponestajalo baterije, i da nisu, poslednji put kad ste pokušali, bili nemogući za razumevanje, a morali ste da koristite uslugu odmah? Sada je disbalans u moći uspostavljen, jer smo se složili da se naše lične informacije skupljaju i koriste u obimu kakav nismo ni mogli zamisliti.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
Zato smo moje kolege i ja odlučili da dublje pogledamo ovo. Počeli smo da čitamo uslove popularnih aplikacija na prosečnom telefonu. Da bismo pokazali svetu koliko je nerealno da očekujemo od kupaca da zapravo čitaju uslove, ištampali smo ih, više od 900 strana, pa smo seli u kancelariji i čitali ih naglas, prenoseći eksperiment uživo na našim veb sajtovima. Kao što možete videti, bilo je potrebno dosta vremena. Bilo nam je potrebno 31 sat, 49 minuta i 11 sekundi da pročitamo uslove na prosečnom telefonu. To je duže od filmskog maratona filmova o Hariju Poteru i filmova „Kum“ zajedno.
(Laughter)
(Smeh)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
Čitanje je jedna stvar. Razumevanje je druga priča. Za to bi nam bilo potrebno mnogo, mnogo više. Ovo je pravi problem, jer su kompanije 20 do 30 godina iznosile argumente protiv bolje regulacije interneta, jer su korisnici pristali na uslove.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
Kao što smo pokazali ovim eksperimentom, dostići obavešten pristanak je skoro nemoguće. Da li mislite da je pravedno da stavljaju teret odgovornosti na korisnika? Ja ne mislim tako. Mislim da bi trebalo da zahtevamo manje „uzmi ili ostavi“, i razumljivije uslove pre nego što pristanemo na njih.
(Applause)
(Aplauz)
Thank you.
Hvala vam.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
Želeo bih da vam ispričam priču o ljubavi. Neke od najpopularnijih aplikacija na svetu su aplikacije za upoznavanje, industrija koja sada vredi više od, ili blizu, tri milijarde dolara godišnje. I naravno, u redu nam je da delimo intimne detalje sa svojom drugom polovinom. Ali ko još njuška okolo, čuva i deli naše informacije dok mi otkrivamo svoje duše? Moj tim i ja smo odlučili da ovo istražimo. A da bih razumeo problem iz svih uglova i da bih zaista obavio posao detaljno, shvatio sam da moram da preuzmem jednu od najpopularnijih aplikacija za upoznavanje na svetu.
So I went home to my wife ...
Otišao sam kući svojoj ženi...
(Laughter)
(Smeh)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
sa kojom sam se tek venčao. „Da li je u redu ako napravim profil na vrlo popularnoj aplikaciji za upoznavanje u isključivo naučne svrhe?“
(Laughter)
(Smeh)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
A ovo smo otkrili. Sakriven iza glavnog menija, postojao je unapred štrikliran kvadratić koji je dao toj kompaniji pristup svim mojim ličnim slikama sa Fejsbuka, u mom slučaju više od 2 000 njih, a neke od njih su bile baš lične. A da stvari budu još gore, kad smo pročitali uslove, otkrili smo sledeće, i moraću da izvadim svoje naočare za čitanje za ovo. Pročitaću vam, jer je ovo komplikovano. U redu.
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
„Objavljujući sadržaj“ - a sadržaj se odnosi na slike, dopisivanja i druge interakcije u servisu za upoznavanje - „kao deo usluge, automatski odobravate kompaniji, njenim filijalama, onima sa njenom licencom i budućim vlasnicima, neopozivo“ - što znači da ne možete da se predomislite - „trajno“ - što znači zauvek - „neisključivo, prenosivo, podlicencno, potpuno isplaćeno, pravo i dozvolu za korišćenje, umnožavanje, čuvanje, izvršavanje, prikazivanje, reprodukciju, beleženje, objavljivanje, prilagođavanje, modifikovanje i distribuciju sadržaja, izdvajanje delove sadržaja i uključivanje sadržaja u druge aktivnosti, davanje odobrenja i ovlašćenja gore pomenutim sublicenciranima u svim medijima, trenutno poznatim ili nadalje stvorenim.“
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
U suštini, to znači da vaša celokupna istorija upoznavanja i sve u vezi sa njom može biti korišćeno u bilo koje svrhe za sva vremena. Samo zamislite svoju decu kako gledaju vaše zavodničke slike za 20 godina u reklami za sredstva za kontracepciju.
But seriously, though --
Sad ozbiljno, zaista -
(Laughter)
(Smeh)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
šta ovi komercijalni običaji mogu značiti za vas? Na primer, finansijski gubitak - na osnovu vaše istorije pretraživanja, algoritmi mogu odlučiti da li ćete dobiti hipoteku ili ne. Podsvesna manipulacija - kompanije mogu analizirati vaše emocije na osnovu vaših slika i dopisivanja, ciljano vam prikazujući reklame kada ste najranjiviji. Diskriminacija - aplikacija za fitnes može prodati podatke kompaniji zdravstvenog osiguranja, što vam može onemogućiti dobijanje osiguranja u budućnosti. Sve ovo se dešava u svetu danas.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
Ali naravno, korišćenje podataka nije uvek loše prirode. Nekad samo ima nedostatke ili treba više poraditi na njemu, a neka su stvarno jako dobra. Postoje i neke dobre vesti. Kompanije za upoznavanja su širom sveta promenile svoja pravila nakon što smo pravno podneli žalbu. Ali organizacije kao što je moja, koje se bore za potrošačka prava, ne mogu biti svuda. Niti potrošači mogu ovo sami rešiti, jer ako znamo da će se nešto bezazleno što smo rekli vratiti da nas proganja, prestaćemo da pričamo. Ako znamo da nas gledaju i prate, promenićemo naše ponašanje. A ako ne možemo da kontrolišemo ko ima naše podatke i kako se oni koriste, izgubili smo kontrolu nad svojim životima.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
Priče koje sam vam ispričao danas nisu slučajni primeri. One su svuda, i znak su da stvari treba da se promene. A kako možemo dostići tu promenu? Kompanije treba da shvate da postavljajući privatnost i zaštitu kao prioritet mogu izgraditi poverenje i lojalnost u odnosu sa svojim korisnicima. Vlade moraju stvoriti sigurniji internet osiguravajući primenu zakona i ažurirana pravila. A mi, građani? Mi možemo da koristimo svoj glas da podsetimo svet da tehnologija može zaista da bude od koristi društvu samo ako poštuje osnovna prava.
Thank you so much.
Hvala vam puno.
(Applause)
(Aplauz)