Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
دوران کودکی خود را بخاطر دارید، احتمالاً شما اسباب بازی مورد علاقهای که همدم همیشگی شما بود داشتید. همچون کریستوفر رابین که خرس وینی داشت، و ذهن شما پراز مخلوقات بیانتها بود؟ چه میتواند معصومتر از دوران کودکی باشد؟ خوب اجازه بدهید دوستم کایلا را معرفی کنم.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
کایلا در دنیا بعنوان اسباببازی سال انتخاب شد. کایلا قابلیت اتصال به شبکه جهانی و دارای تکنولوژی تشخیص صدا بود به منظور جوابگویی سوالات فرزند شما، همچون یک دوست پاسخ میداد. اما قدرت با تخیل کودک شما ممزوج نمیشود. در واقع آن با شرکتهای جمعآوریکننده اطلاعات شخصی مرتبط هستند در حالیکه خانواده بیآزار شما در محیط امن خانه در حال گفتگو هستند. حس اشتباه خطرناک از امنیت. این مورد زنگ خطر را برای من به صدا درآورد، چون حرفه من حمایت از حقوق مصرف کنندگان است. و با میلیونها وسیله همچون ماشینها، کنتورهای انرژی و حتی جاروبرقی انتظارداشتیم تا سال ۲۰۲۰ به صورت آنلاین معرفی شود، ما فکر کردیم این موردی است که ارزش بررسیهای بیشتری را دارد. زیرا کایلا با کارهای جالبی که یاد میگرفت چه انجام میداد؟ آیا او دوست صادق و مطمئن دیگری داشت تا حرفهایش را با او در میان بگذارد؟ بله، شما درست حدس زدید. کسی را داشت. برای بازی با کایلا، لازم بود برنامهای را دانلود نمایید تا به همه ویژگیهای آن دسترسی پیدا کنید. اولیاء باید بدون توجه تمامی موارد تغییر یافته را میپذیرفتند. مکالمات ضبط شده بچه، دوستان و خانواده، برای اهداف تبلیغاتی میتوانست استفاده شود. و تمامی این اطلاعات میتوانست در اختیار اشخاص ثالثی قرار داده شود.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
کافی است؟ نه کاملاً. هرکسی با گوشی هوشمند خود میتواند با کایلا متصل گردد در یک محدوده مکانی. هنگامیکه ما با شرکت سازنده کایلا روبرو شدیم. آنها یکسری اسناد نشان دادند که باید برای بررسی موانع امنیتی، شما یک متخصص کامپیوتر باشید. آیا بهتر نیست صحت اسناد و قابلیت هک زنده کایلا را با هم بررسی کنیم؟ او اینجاست. کایلا با یک ابزار بلوتوثی مجهز شده بود که تا ۱/۸ کیلومتری امکان انتقال دارد. در صورت وجود دیوار کمی کمتر است. بدین معنی است که من و یا هر فرد غریبهای امکان برقراری ارتباط با عروسک را دارد. درحالیکه خارج از خانه جاییکه کایلا و دوستانش هستند. و برای توصیف این مسئله، اکنون من قصد دارم کایلا را روشن نمایم. اجازه بدهید، یک، دو، سه. روشن شد. من از یکی از همکاران خواستم بیرون با گوشی هوشمند خود بایستد، و او متصل شود، و برای اینکه این را کمی ترسناکتر کنیم …
(Laughter)
(خنده)
let's see what kids could hear Cayla say in the safety of their room.
اجازه بدهید ببینیم بچهها چه چیزهایی را میتوانند در امنیت اتاقشان از کایلا بشنوند.
Man: Hi. My name is Cayla. What is yours?
مرد: سلام. اسم من کایلا است. نام شما چیست؟
Finn Myrstad: Uh, Finn.
فین میرستاد: اوه، فین.
Man: Is your mom close by?
مرد: آیا مادرتان پیش شماست؟
FM: Uh, no, she's in the store.
فین: اوه، نه او در فروشگاه است.
Man: Ah. Do you want to come out and play with me?
مرد: آه. آیا شما میخواهید بیرون باهم بازی کنیم؟
FM: That's a great idea.
فین: ایده خوبی است.
Man: Ah, great.
مرد: آه، عالی.
FM: I'm going to turn Cayla off now.
فین: حالا من کایلا را خاموش میکنم
(Laughter)
(خنده)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
ما به هیچ رمز یا دور زدن موانع حفاظتی برای انجام این کار نیاز نداریم. ما گزارشی را در ۲۰ کشور منتشر کردیم، که در آن خطاهای امنیتی را بیان میکرد و بسیاری از موضوعات مشکل ساز دیگر را. خوب این امر منجر به چه شد؟ کایلا در کشور آلمان ممنوع شد. از قفسهها توسط شرکت آمازون و وال-مارت حذف شد، و کایلا در حال حاضر در موزه جاسوسی برلین با آرامش در حال استراحت است.
(Laughter)
(خنده)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
اما، کایلا همچنان در فروشگاههای سراسر جهان برای خرید عرضه شده است برای بیش از یکسال از انتشار مقاله ما. پی بردیم که تعداد قوانین حمایتی اندک است. و همین تعداد اندک به مقدار کفایت الزام آور نیستند. نیاز است تا قوانین حفاظتی و حریم خصوصی پیش از ورود این وسایل به بازار اصلاح گردد، زیرا به چه منظور ما درب ساختمان را قفل میکنیم اگر هرکس بتواند از طریق این وسایل وارد منزل شما شود؟
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
شما امکان دارد فکر کنید، «این مسئله برای من اتفاق نخواهد افتاد. من از این وسایل پرنقص پرهیز خواهم کرد.» اما این شما را در امنیت قرار نخواهد داد، زیرا به راحتی با اتصال به اینترنت، شما در موقعیتی قرار میگیرید که ورود و خروج از آن غیرممکن است.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
اجازه بدهید به شما نشان دهم. مشابه شما، من نیز چندین برنامه بر روی گوشی خود دارم، و در صورت استفاده درست، میتواند زندگی آسانتر، راحتتر و حتی ممکن است سالمتر شود. اما آیا ما در حس نادرستی از امنیت به خواب رفتهایم؟ آن به راحتی با کلیک برروی یک جعبه آغاز میشود. بله، ما میگویم، من شروط برنامهها را مطالعه کردهام. اما آیا واقعاً شروط را ملاحظه کردهاید؟ آیا مطمئن هستید که آنها به نظر خیلی طولانی نیستند و شارژ گوشی شما تمام میشود، و در آخرین لحظات خستگی موجب عدم درک مطالب شد، و نیاز است از آن برنامه استفاده کنید؟ و حالا، عدم تعادل قدرت پایدار شده است، زیرا ما با جمعآوری اطلاعات شخصی و استفاده از آنها در سطحی که قابل تصور نیست موافقت کردهایم.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
به همین دلیل من و همکارانم تصمیم گرفتیم نگاه دقیقتری به این موضوع داشته باشیم. ما تصمیم گرفتیم شرایط برنامههای محبوب بر روی گوشیهای متوسط را بخوانیم. و برای اینکه به جهان نشان دهیم چقدرغیر واقعی است که از مصرف کنندگان توقع داشته باشیم که شرایط را واقعاً مطالعه کنند، ما آنها را پرینت گرفتیم، بیش از ۹۰۰ صفحه، و در محل کار نشستیم و آنها را بلند بلند خواندیم، جریان آزمایش به صورت زنده در سایت ما. همانطور که ملاحظه میکنید، خیلی زمانبر بود. ۳۱ ساعت، ۴۹ دقیقه و ۱۱ ثانیه زمان برد. برای خواندن شروط برروی یک گوشی متوسط. بیش از زمان فیلم ماراتن یکی از فیلمهای هری پاتر است و بعلاوه فیلم پدرخوانده.
(Laughter)
(خنده)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
و خواندن یک موضوع است، فهمیدن موضوع دیگری است. که موجب صرف زمان بسیار بیشتری میشود. و آن واقعاً مشکل است، زیرا شرکتها ۲۰ تا ۳۰ سال است که بر سر مدیریت بهتر اینترنت بحث دارند، زیرا کاربران با شرایط و ضوابط موافقت کردهاند.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
همانطور که ما با این آزمایش نشان دادیم، رسیدن به رضایت آگاهانه نزدیک به غیر ممکن است. آیا فکر میکنید منصفانه است که بار مسئولیت را بر دوش مصرفکننده قراردهیم؟ من فکر نمیکنم. ما بهتراست از شما بخواهیم کمتر آن را بپذیرید و پیش از موافقت با آنها، شروط را بهتر بفهمیم.
(Applause)
(تشویق)
Thank you.
متشکرم.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
حالا میخواهم داستانی درباره عشق بگویم. برخی از برنامههای معروف دنیا برنامههای دوستیابی است، کسب و کاری که ارزش آن در حدود سه میلیون دلار در سال است. و البته، ما خوبیم درحالیکه جزییات نهاییمان را منتشر میکنیم با نیمه دیگرمان. اما چه کسی به دنبال آن است، ذخیره سازی و انتشار اطلاعات ما درحالیکه فکر و احساسات ما را نشر میدهد؟ من و گروه همراه تصمیم به بررسی این مورد گرفتیم. و به منظور فهم آن از تمامی زوایا و به منظورانجام کامل و درست یک کار، دریافتم که مجبورم یکی از برنامههای محبوب دوستیابی را دانلود کنم.
So I went home to my wife ...
بنابراین رفتم به خانه پیش همسرم …
(Laughter)
(خنده)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
که تازه ازدواج کردهایم. «از نظر شما ایراد ندارد من پروفایلم را بر روی یک برنامه دوستیابی خیلی معروف قرار دهم برای اهداف کاملاً علمی؟»
(Laughter)
(خنده)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
این است آنچه ما پیدا کردیم. اختفاء پشت منوی اصلی، یک کادر تیک دار است که به شرکت سازنده اجازه دسترسی به تمامی عکسهای شخصی شما در فیسبوک را میدهد، در خصوص من بیش از ۲٫۰۰۰ تصویر، و برخی از آنها کاملاً شخصی. و بدتر از آن، هنگامیکه ما ضوابط و شرایط را میخوانیم، ما پی میبریم، و من لازم دارم برای خواندن آن عینک مطالعه خود را بردارم. و من قصد دارم برای شما از رو بخوانم، زیرا پیچیده است. خیلی خوب.
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
«با ارسال محتوا» -- و محتوای مرتبط شده با تصاویر، چت و دیگر ارتباطات در سرویس دوستیابی -- «همچون بخشی از سرویس، شما به صورت خودکار به این شرکت میبخشید، وابستهها، مجوزها و جانشینانهای آن غیر قابل جبران» -- که یعنی شما نمی توانید نظر خود را تغییر دهید -- "دائمی" -- که یعنی برای همیشه -- «غیراختصاصی، قابل انتقال، قابل واگذاری، پرداخت کامل، حقوق و مجوز جهانی برای استفاده، کپی، ذخیره، اجرا، نمایش، تولید، ثبت، بازی، تطبیق، تغییر و توزیع محتوی، آمادهسازی کارهای منتج از محتوی، یا تلفیق محتوی با دیگر کارها و صدور مجوز برای انتشار موارد ذکر شده در هر رسانه ای در حال حاضر شناخته شده یا در آینده ایجاد شده است.»
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
این بدان معناست که همه تاریخچه قرار ملاقات شما و یا هر چیزی که با هم مرتبط است با هر هدفی برای همیشه قابل استفاده خواهد بود. تنها تصور نمایید که کودکان شما در حال مشاهده تصاویر پرشور قرار ملاقات شما هستند در کنترل تاریخ تولد تبلیغ، ۲۰ سال دیگر.
But seriously, though --
اما بطور جدی، هرچند --
(Laughter)
(خنده)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
این عملیات تجاری چه مفهومی برای شما خواهد داشت؟ برای مثال، ضرر مالی: منتج از سابقه سایتهای بازدید شده، الگوریتمها ممکن است تصمیم بگیرند آیا شما وام مسکن را دریافت خواهید کرد یا خیر. دستکاری ناخودآگاه: شرکتها براساس تصاویر و گفتگوهای شما، قادر به تحلیل شما هستند. با تبلیغات شما را در زمانیکه بسیار آسیبپذیر هستید، مورد هدف قرار میدهند. تشخیص: یک برنامه مرتبط با سلامتی اطلاعات شما را به شرکت بیمه درمان میفروشد، و شما را از دریافت پوششهای بیمهای در آینده باز میدارد. تمامی این موارد در دنیای امروز اتفاق میافتد.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
اما البته، تمامی موارد استفاده از دادهها بدنهاد نیست. برخی از آنها تنها ایرادات کمی دارند و یا نیاز به کار بیشتر دارند. و برخی از آنها واقعاً عالی هستند. و برخی از اخبار خوب نیز وجود دارد. شرکتهای دوستیابی سیاستهای خود را در سطح جهانی تغییر دادهاند پس از اینکه یک شکایت قانونی ارائه کردیم. اما سازمانهایی همچون سازمان ما که برای حقوق مصرفکنندگان مبارزه میکند نمیتواند در همه جا باشد همچنین مصرف کنندگان نمیتوانند این کار را خودشان انجام دهند. چون اگر میدانیم چیزی که بیگناه در نظر میگیریم برخواهد گشت تا به ما آسیب بزنند، ما صحبت را متوقف خواهیم کرد. اگر ما پی ببریم که در حال مشاهده و نظارت هستیم، ما رفتار خودمان را تغییر خواهیم داد. و اگر نمیتوانیم کنترل کنیم اطلاعات ما را چه کسی داشته باشد و چطور از آن استفاده کند، ما کنترل زندگیمان را از دست دادهایم.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
داستانهایی که امروز به شما گفتهام نمونههای تصادفی نیستند. همه جا وجود دارد، و نشانههایی هستند که باید اصلاحات صورت گیرد. و چگونه میتوانیم به آن تغییر برسیم؟ خوب، شرکتها باید بدانند که با اولویتبندی حریم خصوصی و امنیت، آنها میتوانند اعتماد و وفاداری در کاربران خود ایجاد کنند. دولت باید بستر امن اینترنت را ایجاد کند با حصول اطمینان از نحوه اجرا و قوانین به روز. و ما، شهروندان؟ ما میتوانیم از صدایمان استفاده کنیم. برای یادآوری به جهان که فنآوری تنها زمانی به نفع جامعه است که به قوانین اساسی احترام بگذارد.
Thank you so much.
خیلی متشکرم.
(Applause)
(تشویق)