Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
Apakah Anda ingat ketika masih kecil, mungkin Anda punya mainan favorit yang terus bersama Anda, seperti Christopher Robin punya Winnie the Pooh, dan imajinasi Anda dipenuhi petualangan tiada akhir? Apa yang bisa lebih polos dari itu? Mari saya kenalkan Anda pada teman saya Cayla.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
Cayla terpilih sebagai mainan tahun ini di banyak negara di dunia. Ia terhubung ke internet dan memakai teknologi pengenal suara untuk menjawab pertanyaan anak Anda, merespons selayaknya seorang teman. Tapi kehebatannya bukan pada imajinasi anak Anda. Melainkan ada pada perusahaan yang mengumpulkan segunung informasi pribadi selagi keluarga Anda mengobrol dengan polosnya di dalam rumah yang aman, dengan rasa aman palsu yang berbahaya. Masalah ini menggugah saya, karena tugas sayalah untuk melindungi hak konsumen di negara saya. Dan dengan milyaran perangkat seperti mobil, pengukur energi dan bahkan penyedot debu akan masuk daring di tahun 2020, kami pikir masalah ini layak untuk ditelusuri lebih jauh, Karena apa yang dilakukan oleh Cayla dengan segala hal menarik yang dipelajarinya? Apakah dia punya teman lain yang ia setiai dan berbagi informasi dengannya? Ya, tebakan Anda tepat. DIa punya. Agar dapat bermain dengan Cayla, Anda perlu mengunduh suatu aplikasi untuk mengakses semua fitur. Orang tua harus setuju pada syarat yang dapat diubah tanpa pemberitahuan. Rekaman si anak, teman-teman, dan keluarganya, dapat dipakai untuk iklan bertarget. Dan segala informasi ini dapat diberikan ke pihak ketiga yang anonim.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
Sampai di situ? Tidak juga. Siapa pun dengan telepon pintar bisa terhubung dengan Cayla dalam jarak tertentu. Ketika kami menemui perusahaan yang membuat dan memrogram Cayla, mereka mengeluarkan serangkaian pernyataan bahwa yang bisa menerabas sistem sekuritinya, hanya seorang ahli IT. Haruskan kita mengecek faktanya dan meretas Cayla bersama-sama? Ini dia. Cayla dilengkapi perangkat <i>bluetooth</i> yang bisa memancar sampai 18 meter, agak kurang sedikit jika terpisah oleh tembok. Itu artinya saya, atau siapapun, bisa terhubung ke bonekanya selagi berada di luar ruangan dari tempat Cayla dan teman-temannya. Dan untuk menggambarkannya, sekarang saya akan nyalakan Cayla. Ayo kita lihat, satu, dua, tiga. Nah, menyala. Saya minta seorang rekan kerja berdiri di luar dengan telepon pintarnya, dan ia terhubung, dan supaya sedikit lebih seram lagi ...
(Laughter)
(Tawa)
let's see what kids could hear Cayla say in the safety of their room.
kita lihat yang dapat didengar anak-anak dari Cayla di dalam rumah yang aman.
Man: Hi. My name is Cayla. What is yours?
Pria: Hai. Namaku Cayla, siapa namamu?
Finn Myrstad: Uh, Finn.
Fin Myrstad: Uh, Finn.
Man: Is your mom close by?
Pria: Ibumu ada di dekatmu?
FM: Uh, no, she's in the store.
FM: Tidak, ia di dalam toko.
Man: Ah. Do you want to come out and play with me?
Pria: Ah. Mau keluar dan bermain denganku?
FM: That's a great idea.
FM: Itu ide bagus.
Man: Ah, great.
Pria: Ah, bagus.
FM: I'm going to turn Cayla off now.
FM: Saya akan matikan Cayla sekarang.
(Laughter)
(Tawa)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
Tidak butuh kata kunci atau menghindari jenis pengamanan apapun untuk melakukan ini. Kami menerbitkan sebuah laporan di 20 negara di seluruh dunia, membeberkan kecacatan sekuritas yang signifikan ini dan banyak masalah lainnya. Jadi apa yang terjadi? Cayla dilarang di Jerman, tidak dijual lagi di Amazon dan Wal-Mart, dan sekarang ia beristirahat dengan tenang di Museum Intel Jerman di Berlin.
(Laughter)
(Tawa)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
Namun, Cayla juga diobral di toko-toko di berbagai belahan dunia selama lebih dari setahun setelah laporan kami diterbitkan. Yang kami beberkan adalah ada beberapa peraturan untuk melindungi kita dan yang sudah ada belum benar-benar ditegakkan. Kita harus memperbaiki hak keamanan dan privasi perangkat semacam ini sebelum mereka keluar di pasaran, karena apa artinya mengunci rumah jika siapapun bisa masuk melalui perangkat yang terhubung?
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
Anda mungkin berpikir, "Ini takkan terjadi padaku. Aku jauh-jauh saja dari perangkat cacat seperti ini." Tapi itu takkan membuat Anda aman, karena hanya dengan terhubung ke internet, Anda berasa di posisi "mau tidak mau" yang mustahil.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
Saya akan tunjukkan. Seperti kebanyakan orang, ada puluhan aplikasi di telepon saya, jika digunakan dengan benar, bisa membuat hidup lebih mudah, lebih nyaman, dan mungkin lebih sehat. Tapi apakah kita terbuai dalam rasa aman yang palsu? Semua dimulai hanya dengan mencentang sebuah kotak. Ya, kita bilang, saya sudah membaca syaratnya. Tapi apakah Anda benar-benar membacanya? Anda yakin syarat itu tidak terlalu panjang sampai ponsel Anda habis baterai, dan terakhir Anda mencoba, syarat itu sulit dipahami, dan Anda perlu menggunakan layanannya? Dan sekarang, terjadilah ketidakseimbangan posisi, karena kita telah setuju informasi pribadi kita dikumpulkan dan digunakan pada skala yang tak terbayangkan.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
Ini sebabnya, saya bersama kolega memutuskan untuk menelaah lebih jauh. Kami bersiap membaca syarat aplikasi populer di telepon biasa. Dan untuk menunjukkan pada dunia betapa tidak realistisnya mengharapkan konsumen benar-benar membaca syaratnya, kami mencetaknya, lebih dari 900 halaman, dan duduk di kantor kami dan membacanya keras-keras, menyiarkan langsung percobaan ini di situs kami. Seperti yang Anda lihat, ini makan waktu cukup lama. Butuh 31 jam, 49 menit, dan 11 detik untuk membacanya pada telepon biasa. Lebih lama daripada nonton maraton film-film Harry Potter dan Godfather berturut-turut.
(Laughter)
(Tawa)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
Membaca itu satu hal. Memahami itu lain lagi. Itu akan makan waktu amat lebih lama lagi. Dan ini masalah yang sesungguhnya, karena banyak perusahaan berargumen selama 20 sampai 30 tahun menentang pengaturan internet yang lebih baik, karena para pengguna telah menyetujui syarat dan ketentuannya.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
Seperti yang kita lihat pada percobaan ini, memahami persetujuan yang diinformasikan hampir mustahil. Anda pikir adilkah membebani tanggung jawab pada konsumen? Menurut saya tidak. Rasanya kita harus menuntut dikuranginya posisi "mau tidak mau" dan diwujudkannya syarat yang dapat dipahami sebelum kesepakatan.
(Applause)
(Tepuk tangan)
Thank you.
Terima kasih.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
Nah, saya ingin menceritakan kisah tentang cinta. Beberapa aplikasi terpopuler di dunia adalah aplikasi kencan, industri yang saat ini bernilai lebih atau hampir tiga miliar dolar per tahun. Dan tentu saja, kita tidak keberatan berbagi keakraban yang mendetil dengan belahan jiwa kita. Tapi siapa lagi yang mengintai, menyimpan dan membagikan informasi kita selagi kita membuka jiwa? Saya dan tim memutuskan untuk menyelidikinya. Dan untuk memahami masalah dari semua segi dan benar-benar teliti, saya sadar saya harus mengunduh salah satu aplikasi kencan terpopuler di dunia.
So I went home to my wife ...
Jadi saya pulang dan bilang pada istri saya ...
(Laughter)
(Tawa)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
yang baru saja saya nikahi. "Bolehkah aku membuat profil pada aplikasi kencan populer murni untuk keperluan ilmiah?"
(Laughter)
(Tawa)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
Ini yang kami temukan. Tersembunyi di balik menu utama ada kotak yang sudah dicentang dahulu yang memberikan perusahaan kencan akses ke foto pribadi saya di <i>Facebook,</i> di kasus saya, lebih dari 2,000, dan beberapa sangat pribadi. Dan yang lebih buruk lagi, saat kita baca syarat dan ketentuannya, kami menemukan ini, dan saya harus mengeluarkan kacamata baca saya untuk ini. Dan saya akan membacakannya untuk Anda karena ini memusingkan. Baik.
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
"Dengan mem-<i>posting</i> konten" -- dan konten merujuk pada foto-foto Anda, obrolan dan interaksi lain pada layanan kencan -- "sebagai bagian dari layanan, Anda otomatis memberikan perusahaan, afiliasinya, lisensinya, dan penerusnya yang tak dapat dibatalkan" -- yang artinya Anda tak bisa berubah pikiran -- "kekal" -- yang artinya selamanya -- "tak terkecuali, dapat dipindahkan, dapat di-sublisensikan, berbayar penuh, di seluruh dunia hak dan lisensi untuk memakai, menyalin, menyimpan, melakukan, menampilkan, memproduksi ulang, merekam, memainkan, mengadaptasi, memodifikasi, dan menyebarkan konten, menyiapkan karya turunan dari konten, atau menggunakan konten untuk karya lain dan memberi dan mengijinkan sublisensi dari hal-hal di atas pada media apapun yang saat ini diketahui atau dibuat di sini."
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
Intinya adalah semua sejarah kencan Anda dan segala hal yang ada hubungannya, bisa dipakai untuk tujuan apapun selamanya. Bayangkan anak-anak Anda melihat foto-foto kencan Anda yang berani pada iklan kontrasepsi 20 tahun dari sekarang.
But seriously, though --
Tapi sungguh, --
(Laughter)
(Tawa)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
apa artinya praktik periklanan ini bagi Anda? Contohnya, kerugian finansial: berdasarkan jejak jelajah situs Anda, algoritma bisa memutuskan apa Anda akan dapat agunan atau tidak. Manipulasi tanpa disadari: perusahaan bisa menganalisa emosi Anda berdasarkan foto dan obrolan Anda, menarget Anda dengan iklan saat Anda paling lemah. Diskriminasi: aplikasi kebugaran bisa menjual data Anda ke perusahaan asuransi kesehatan, mencegah Anda mendapatkan pertanggungan di masa depan. Semua ini terjadi di dunia saat ini.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
Tapi tentu saja, tidak semua penggunaan data merugikan. Ada yang hanya cacat atau harus diperbaiki, dan ada yang benar-benar bagus. Dan ada juga berita baik. Perusahaan kencan mengubah kebijakan mereka secara global setelah kami menuntut secara hukum. Tapi organisasi seperti organisasi saya yang memperjuangkan hak-hak konsumen tak mungkin ada di mana-mana. Tidak juga konsumen bisa mengatasinya sendiri, karena jika kita tahu bahwa hal polos yang kita katakan akan kembali menghantui kita, kita akan berhenti bicara. jika kita tahu kita diperhatikan dan diawasi, kita akan mengubah perilaku kita. Dan jika kita tak dapat kendalikan siapa yang punya data kita dan penggunaannya, kita kehilangan kendali atas hidup kita.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
Kisah yang saya sampaikan hari ini bukan contoh acak. Mereka ada di mana-mana, dan itu tandanya bahwa perlu ada perubahan. Dan bagaimana kita bisa mencapai perubahan itu? Yah, perusahaan harus menyadari dengan memprioritaskan privasi dan keamanan, mereka dapat membangun kepercayaan dan loyalitas pengguna. Pemerintah harus menciptakan internet yang lebih aman dengan memastikan penegakkan dan pembaharuan peraturan. Dan kita, para warga? Kita dapat menggunakan suara kita untuk mengingatkan dunia bahwa teknologi hanya dapat bermanfaat bagi masyarakat jika menghormati hak-hak dasar.
Thank you so much.
Terima kasih banyak.
(Applause)
(Tepuk tangan)