هل تتذكر عندما كنت طفلًا، لا بد وأنك كنت تمتلك لعبة مفضلة كانت بمثابة رفيقك الدائم، مثل كريستوفر روبن ولعبته الدب ويني، وخيالك الممتلئ بمغامرات لا نهاية لها؟ ما الذي يمكن أن يكون أكثر براءة من ذلك؟ حسنًا، دعني أعرفك على صديقتي كايلا.
Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
صُنفت لعبة كايلا على أنها لعبة العام في بعض الدول حول العالم. حيث تتصل بالإنترنت وتستخدم تقنية التعرف على الحديث لتجيب على أسئلة طفلك، وتتفاعل معه كصديق حقيقي. لكن القوة لا تكمن في خيال طفلك. وإنما تكمن فى الشركة التي تستثمر عبر جمعها لكميات هائلة من المعلومات الشخصية بينما تتحدث عائلتك بعفوية في منزلهم الآمن، شعور خطير بالأمان بشكل زائف. قرعت هذه القضية أجراس الإنذار بالنسبة لي، فوظيفتي تقوم على حماية حقوق المستخدمين في بلدي. وبوجود المليارات من الأجهزة كالسيارات، عدادات الطاقة وحتى المكانس الكهربائية التي من المتوقع أن تتصل بالشبكة بحلول عام 2020، فقد اعتقدنا أن هذه القضية هي الأكثر استحقاقًا للمزيد من البحث. لأن.. ما الذي كانت تفعله كايلا مع كل الأشياء المثيرة التي كانت تتعلمها؟ هل كان لديها صديق آخر كانت وفية له وشاركت معلوماتها معه؟ نعم، تخمينك صحيح. لقد امتلكت واحدًا. حتى تلعب مع كايلا، لا بد وأن تحمل تطبيقًا يساعدك على الوصول إلى جميع ميزاتها. يجب على الوالدين الموافقة على الشروط التي يتم تغييرها دون أن يلاحظوا ذلك. يمكن استخدام تسجيلات الطفل وعائلته وأصدقاء كايلا، في الإعلانات الموجهة. وجميع هذه المعلومات يمكن مشاركتها مع أطراف ثالثة غير مسماه.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
هل هذا يكفي؟ ليس تمامًا. يمكن لأي شخص يملك هاتفًا ذكيًا الاتصال بكايلا ضمن مسافة معينة. عندما واجهنا الشركة التي صنعت وبرمجت كايلا بهذه الأمور، أصدروا سلسلة من التصريحات تنص على وجوب أن يكون المرء خبير تكنولوجيا حتى يتمكن من اختراق أمن المعلومات. ما رأيكم أن نتحقق من هذا البيان ونخترق أمن كايلا معا والآن؟ ها هي. تم تجهيزكايلا بجهاز بلوتوث يمكن الاتصال به عبر مسافة 60 قدمًا، وأقل قليلًا إذا تواجد جدار بالمنتصف. وهذا يعني أنني أنا، أو أي شخص غريب هنا، يمكنه الاتصال بالدمية أثناء وجوده خارج الغرفة حيث توجد كايلا وأصدقاؤها. ولتوضيح ذلك، سأقوم بتشغيل كايلا الآن. دعونا نرى، واحد، اثنان، ثلاثة. ها هي تعمل. وقد طلبت من زميل لي أن يقف خارجًا مع هاتفه الذكي، وهو متصل بالشبكة، ولجعل هذا مخيفًا قليلًا ...
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
(ضحك)
(Laughter)
دعونا نرى ما يمكن أن يسمعه الأطفال من كايلا في غرفتهم الأمنة.
let's see what kids could hear Cayla say in the safety of their room.
الرجل: مرحبًا. أنا اسمي كايلا. ماهو اسمك؟
Man: Hi. My name is Cayla. What is yours?
فين ميرستاد: آه، فين.
Finn Myrstad: Uh, Finn.
الرجل: هل أمك بالجوار؟
Man: Is your mom close by?
ف.م: لا، إنها في المتجر.
FM: Uh, no, she's in the store.
الرجل: آه. هل تريد أن تخرج وتلعب معي؟
Man: Ah. Do you want to come out and play with me?
ف.م: هذه فكرة رائعة.
FM: That's a great idea.
الرجل: آه، عظيم.
Man: Ah, great.
ف.م: سأقوم بإيقاف كايلا الآن.
FM: I'm going to turn Cayla off now.
(ضحك)
(Laughter)
لم نحتج إلى أي كلمة مرور ولم نحتل على أي نوع من أنواع الأمن لنقوم بذلك. نشرنا تقريرًا في 20 دولة حول العالم، كشفنا فيه هذا الخطأ الأمني المهم وقضايا أخرى كثيرة تتسبب بالمشاكل. إذًا ما الذي حصل؟ حُظرت كايلا في ألمانيا، وأُنزلت من على أرفف أمازون و وول- مارت، وهي الآن ترقد بسلام في متحف الجاسوس الألماني في برلين.
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
(ضحك)
(Laughter)
ومع ذلك، فإن كايلا بقيت معروضة للبيع في المتاجر حول العالم لأكثر من عام بعد التقرير الذي نشرناه. ما كشفناه هو أن هناك القليل من القوانين لحمايتنا وتلك القوانين التي نمتلكها لا يتم تطبيقها بالشكل صحيح. فنحن نحتاج لأن نحصل على الأمان والخصوصية بوجود هذه الأجهزة قبل دخولها السوق، فما هو الغرض من تأمين المنزل بمفتاح إذا كان بإمكان أي شخص الدخول إليه عبر جهاز متصل بالشبكة؟
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
قد تفكر، "هذا لن يحدث لي. سأبقى بعيدًا عن هذه الأجهزة المعيبة." لكن هذا لن يبقيك بمأمن من الخطر، لأنه ببساطة عندما تتصل بالشبكة، سوف توضع في موقف صعب جدًا "خذ أو أترك".
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
دعوني أريكم. مثل معظمكم، فأنا أملك عشرات التطبيقات على هاتفي، وأستخدمها بشكل صحيح، يساعد في جعل حياتنا أسهل، ومريح أكثر وربما صحي أكثر. لكن هل تم إقصاءنا يا ترى إلى شعور زائف بالأمان؟ يبدأ ببساطة عند وضع علامة (صح) في مربع. أجل، نحن نقول، لقد قرأت الشروط. لكن هل حقًا قرأت الشروط؟ هل أنت متأكد من أنها لم تكن طويلة وأن بطارية الهاتف بدأت بالنفاذ، وآخر مرة حاولت فيها قراءة تلك الشروط كانت في الواقع مستحيلة الفهم، وكنت بحاجة لتلك الخدمة في الحال؟ والآن، لقد اختل توازن القوى، لأننا وافقنا على أن تُجمع معلوماتنا الشخصية وتُستخدم على نطاق لم يكن بوسعنا أن نتخيله أبدًا.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
لهذا قررت أنا وزملائي أن نلقي نظرة أعمق على هذا الأمر. بدأنا في قراءة شروط التطبيقات الشائعة على الهاتف العادي. ولنظهر للعالم كم أنه من غير الواقعي أن يقرأ المستخدمون تلك الشروط، قمنا بطباعتهم، لقد تجاوزوا ال 900 صفحة في عددهم، جلسنا في مكتبنا وقرأناها بصوت عالٍ، مع بث مباشر لهذه التجربة على مواقعنا الإلكترونية. كما ترون، لقد استغرق الأمر وقتا طويلًا. فقد استغرق الأمر 31 ساعة و49 دقيقة و11 ثانية لقراءة الشروط على الهاتف العادي. هذا أطول من ماراثون لأفلام "هاري بوتر" وأفلام "الأب الروحي" مجتمعة.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
(ضحك)
(Laughter)
والقراءة شيء. والفهم شيء آخر. الذى كان من شأنه أن يأخذ منا وقتًا أطول من ذلك بكثير. وهذه مشكلة حقيقية، لأن الشركات أمضت ما يقارب 20 إلى 30 سنة تجادل ضد فكرة تنظيم الشبكة بشكل أفضل، لأن المستخدمين سبق ووافقوا على الشروط والأحكام.
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
وكما أوضحنا في هذه التجربة، فإن الحصول على موافقة مبينة وواضحة على كل الشروط شبه مستحيلة. هل تعتقد أنه من العدل وضع عبء المسؤولية على المستخدم؟ لا أعتقد ذلك. أعتقد أنه يجب علينا أن نطالب بتقليل شروط "خذ أو أترك"، ونزيد من الشروط المفهومة قبل أن نوافق عليها.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
(تصفيق)
(Applause)
شكرًا لكم.
Thank you.
أود أن أخبركم الآن قصة عن الحب. بعض أكثر التطبيقات شعبية في العالم هي تطبيقات المواعدة، وهي صناعة تبلغ قيمتها الآن أكثر من ثلاثة مليارات دولار أو تقترب منها. وبالطبع، فلا مانع لدينا من مشاركة تفاصيلنا الحميمية مع نصفنا الآخر. ولكن هل من أحد غيره يتطفل ويحفظ ويشارك معلوماتنا بينما نحن نكشف اسرارنا الشخصية؟ قررت أنا وفريقي البحث في هذا الأمر. ولنفهم المشكلة من جميع الزوايا ونقوم بعمل دقيق، أدركت أنه لا بد لي من تنزيل أحد أشهر تطبيقات التعارف في العالم بنفسي.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
لذا ذهبت إلى زوجتي ...
So I went home to my wife ...
(ضحك)
(Laughter)
والتي تزوجتها حديثًا. "هل تمانعين أن أنشئ حسابًا على تطبيق مواعدة شائع جدًا لأغراض علمية بحتة؟"
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
(ضحك)
(Laughter)
وهذا ما وجدناه. صندوقًا مخبأً وراء القائمة الرئيسية وُضعت إشارة الموافقة عليه مسبقًا وهو ما يسمح لشركة تطبيق المواعدة بأن تصل إلى جميع صوري الشخصية على فيسبوك، ويعني هذا في حالتي أكثر من 2000 صورة، وبعض هذه الصور كانت شخصيةً جدًا. ولجعل الأمور أسوأ، عندما قرأنا البنود والشروط، اكتشفنا ما يلي، سأحتاج إلى إخراج نظارتي لقراءة هذا. سأقرأها لكم، لأن هذا معقد. حسنًا.
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
"من خلال نشر محتوى"، والمحتوى هنا يعني صورك، ومحادثاتك وتفاعلاتك الأخرى في تطبيق المواعدة، "كجزء من الخدمة، فإنك تمنح تلقائيًا الشركة والشركات التابعة لها ومرخصيها وخلفائها أمرًا لا رجعة فيه"، وهذا يعني أنك لا تستطيع تغيير رأيك فيه، "دائمًا"، ما يعني إلى الأبد، "غير حصري، قابل للتحويل، يمكن ترخيصه جزئيًا، ومدفوع بالكامل، وللعالم الحق والترخيص لاستخدامه، ونسخه، وتخزينه، وتعديله، وعرضه وإعادة إنتاجه وتسجيله، و تشغيله و تكييفه حسب المتطلبات و توزيعه، و إعداد أعمال مشتقة من المحتوى، و دمج المحتوى في أعمال أخرى ومنح التراخيص لما سبق ذكره لأي وسيلة إعلامية معروفة الآن أو ستنشؤ فيما بعد." (يتنفس بصعوبة)
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
وبشكل أساسي فإن هذا يعني أن كل تاريخ علاقاتك السابقة وكل ما يتعلق بها يمكن استخدامها لأي غرض وفي كل الأوقات. فقط تخيل أن أطفالك يرون صورك المثيرة في إعلان تحديد للنسل بعد 20 عامًا من الآن.
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
ولكن بجدية،
But seriously, though --
(ضحك)
(Laughter)
ما الذي قد تعنيه هذه الممارسات التجارية لك؟ على سبيل المثال، في حال خسارتك المالية: بناء على سجلك الخاص في تصفح الشبكة، ستحدد الخوارزميات ما إذا كنت تستحق أن تحصل على قرض عقاري أم لا. التلاعب بعقلك اللاواعي: حيث تستطيع الشركات تحليل عواطفك استنادًا إلى صورك ودردشاتك، وبالتالي فإنها تستهدفك بالإعلانات عندما تكون أكثر ضعفًا وحساسية. التمييز: يمكن لتطبيق اللياقة البدنية بيع بياناتك إلى شركة تأمين صحي، ما يؤدي لمنعك من الحصول على تأمين صحي في المستقبل. كل هذا يحدث في العالم اليوم.
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
لكن بالطبع، ليست كل استخدامات البيانات مؤذية. فبعضها معيوب أو بحاجة إلى تعديل أكثر، وبعضها رائع حقًا. وهناك بعض الأخبار الجيدة كذلك. فقد غيرت شركات المواعدة سياساتها على الصعيد العالمي بعد أن قدمنا شكوى قانونية. لكن الشركات التي تشبه شركتي التي تحارب من أجل حقوق المستخدمين لا يمكنها التواجد في كل مكان. ولا يمكن للمستخدمين أيضًا إصلاح ذلك بمفردهم، لأننا إذا علمنا أن شيئًا قلناه بشكل عفوي، من الممكن أن يُستخدم ضدنا، فسوف نتوقف عن الكلام. إذا كنا نعلم أننا نُراقب ونُشاهد، فبالتأكيد سنغير سلوكنا. وإذا لم نتمكن من التحكم بمعرفة من يملك بياناتنا وكيف يتم استخدامها، فحتمًا سنفقد السيطرة على حياتنا.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
القصص التي أخبرتكم بها اليوم ليست أمثلة عشوائية. إنها موجودة في كل مكان، وهي علامة على أن الأمور بحاجة إلى التغيير. وكيف يمكننا تحقيق هذا التغيير؟ حسنًا، على الشركات أن تدرك أن عليها أن تمنح الأولوية للخصوصية والأمان، فبذلك يمكنها بناء الثقة والولاء مع مستخدميها. يجب على الحكومات إنشاء شبكة إنترنت أكثر أمانًا من خلال ضمان تطبيق القوانين وتحديثها. ونحن، المواطنون؟ نستطيع استخدام أصواتنا لنذكر العالم بأن التكنولوجيا لا يمكن أن تفيد المجتمع إلا إذا احترمت الحقوق الأساسية لمستخدميها.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
شكرًا جزيلًا لكم.
Thank you so much.
(تصفيق)
(Applause)