Θυμάστε όταν ήσασταν παιδιά, είχατε πιθανώς ένα αγαπημένο παιχνίδι που σας συντρόφευε μόνιμα, όπως ο Κρίστοφερ Ρόμπιν είχε τον Γουίνι το Αρκουδάκι και στη φαντασία σας φτιάχνατε ατελείωτες περιπέτειες; Τι θα ήταν πιο αθώο από αυτό; Επιτρέψτε μου να σας συστήσω τη φίλη μου την Κέιλα.
Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
Η Κέιλα ψηφίστηκε παιχνίδι της χρονιάς σε διάφορες χώρες ανά τον κόσμο. Συνδέεται στο διαδίκτυο και χρησιμοποιεί τεχνολογία αναγνώρισης ομιλίας για να απαντήσει στις ερωτήσεις του παιδιού σας, ανταποκρίνεται ακριβώς όπως μια φίλη. Αλλά η δύναμή της δεν βρίσκεται στη φαντασία του παιδιού σας. Βασίζεται στο ότι η εταιρία συλλέγει πληθώρα προσωπικών πληροφοριών, ενώ η οικογένεια κουβεντιάζει αθώα στην ασφάλεια του σπιτιού της, μια επικίνδυνα εσφαλμένη αίσθηση ασφάλειας. Αυτή η περίπτωση μού χτύπησε το καμπανάκι του συναγερμού, καθώς είναι δουλειά μου να προστατεύω τα δικαιώματα των καταναλωτών στη χώρα μου. Και με τα δισεκατομμύρια συσκευών όπως αυτοκίνητα, μετρητές ενέργειας, ακόμα και ηλεκτρικές σκούπες που αναμένεται να συνδεθούν στο διαδίκτυο μέχρι το 2020, εκτιμήσαμε ότι αυτή ήταν μια περίπτωση που άξιζε περαιτέρω διερεύνησης. Γιατί τι έκανε η Κέιλα με όλα τα ενδιαφέροντα πράγματα που μάθαινε; Μήπως είχε κάποια άλλη φίλη με την οποία μοιραζόταν πληροφορίες; Ναι, σωστά μαντέψατε. Είχε. Για να παίξετε με την Κέιλα, πρέπει να κατεβάσετε μια εφαρμογή για να έχετε πρόσβαση σε όλες τις λειτουργίες της. Οι γονείς πρέπει να συγκατατεθούν στην απροειδοποίητη αλλαγή των όρων. Οι μαγνητοφωνήσεις του παιδιού, των φίλων της και της οικογένειας μπορούν να χρησιμοποιηθούν για στοχευμένη διαφήμιση και όλες αυτές οι πληροφορίες να κοινοποιηθούν σε άγνωστα τρίτα μέρη.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
Αρκετά; Όχι ακόμα. Οποιοσδήποτε έχει έξυπνο κινητό μπορεί να συνδεθεί με την Κέιλα μέχρι κάποια απόσταση. Όταν ήρθαμε αντιμέτωποι με την εταιρία που την κατασκεύαζε και την προγραμμάτιζε, εξέδωσαν μια σειρά από δηλώσεις ότι μόνον κάποιος ειδικός στην Πληροφορική μπορεί να παρακάμψει την ασφάλεια. Να εξετάσουμε αυτήν τη δήλωση και να χακάρουμε την Κέιλα μαζί; Να τη. Η Κέιλα είναι εξοπλισμένη με συσκευή Bluetooth, που μπορεί να εκπέμπει σε απόσταση μέχρι 20 μέτρα, λίγο λιγότερο αν υπάρχει κάποιος τοίχος ανάμεσα. Αυτό σημαίνει ότι εγώ ή οποιοσδήποτε ξένος μπορεί να συνδεθεί με την κούκλα, ενώ βρίσκεται έξω από το δωμάτιο όπου βρίσκεται η Κέιλα και οι φίλοι της. Για να σας το δείξω, θα ενεργοποιήσω τώρα την Κέιλα. Για να δούμε. Ένα, δύο τρία. Ορίστε, ενεργοποιήθηκε. Ζήτησα από έναν συνάδελφο να σταθεί έξω με το έξυπνο κινητό του. Είναι συνδεδεμένος και για να το κάνουμε λίγο πιο τρομακτικό…
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
(Γέλια)
(Laughter)
Ας δούμε τι θα μπορούσε να πει η Κέιλα στα παιδιά στην ασφάλεια του δωματίου τους.
let's see what kids could hear Cayla say in the safety of their room.
Με λένε Κέιλα. Εσένα;
Man: Hi. My name is Cayla. What is yours?
Φιν.
Finn Myrstad: Uh, Finn.
Είναι κοντά η μαμά σου;
Man: Is your mom close by?
Όχι, έχει πάει για ψώνια.
FM: Uh, no, she's in the store.
Αα… Θέλεις να έρθεις έξω να παίξουμε μαζί;
Man: Ah. Do you want to come out and play with me?
Ωραία ιδέα!
FM: That's a great idea.
Τέλεια.
Man: Ah, great.
Θα κλείσω την Κέιλα για τώρα.
FM: I'm going to turn Cayla off now.
(Γέλια)
(Laughter)
Δεν χρειαστήκαμε κάποιον κωδικό πρόσβασης. ή να παρακάμψουμε οποιοδήποτε είδος ασφάλειας για να το κάνουμε αυτό. Εκδώσαμε μια αναφορά σε 20 κράτη σε όλο τον κόσμο, εκθέτωντας αυτό το σημαντικό ελάττωμα ασφάλειας και πολλά άλλα προβληματικά θέματα. Τι έγινε; Η Κέιλα απαγορεύτηκε στη Γερμανία, σταμάτησε να πουλιέται από το Amazon και τη Wal-Mart και αναπαύεται ήρεμα στο Γερμανικό Μουσείο Κατασκοπείας στο Βερολίνο.
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
(Γέλια)
(Laughter)
Όμως η Κέιλα επίσης πουλιόταν σε μαγαζιά σε όλο τον κόσμο για περισσότερο από ένα χρόνο, αφότου δημοσιεύσαμε την αναφορά μας. Αυτό που αποκαλύψαμε είναι ότι υπάρχουν κάποιοι κανόνες για την προστασία μας αλλά δεν εφαρμόζονται επαρκώς. Πρέπει να φτιάχνουμε την ασφάλεια και ιδιωτικότητα αυτών των συσκευών πριν διατεθούν στην αγορά. Διότι ποιο το όφελος να κλειδώνουμε το σπίτι μας με ένα κλειδί, αν οποιοσδήποτε μπορεί να μπει μέσα από μiα συνδεδεμένη συσκευή; Μπορεί να σκέφτεστε, «Δεν θα συμβεί σε εμένα. Απλώς δεν θα χρησιμοποιήσω αυτές τις ελαττωματικές συσκευές». Αλλά αυτό δεν θα κρατήσει ασφαλείς, διότι με το που συνδέεστε στο διαδίκτυο, βρίσκεστε σε μια αδύνατη θέση αποδοχής όλων-ή-τίποτα.
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device? You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
Ας το εξηγήσω. Όπως οι περισσότεροι, έχω δεκάδες εφαρμογές στο τηλέφωνό μου, που εφόσον χρησιμοποιούνται σωστά, μπορούν να κάνουν τη ζωή μας πιο εύκολη, πιο βολική ακόμα και πιο υγιεινή. Αλλά μήπως έχουμε εφησυχάσει εξαιτίας μιας απατηλής αίσθησης ασφάλειας; Όλα ξεκινούν με το τσεκάρισμα σε ένα κουτάκι. «Ναι», λέμε, «έχω διαβάσει τους όρους». Αλλά έχετε πραγματικά διαβάσει τους όρους; Είστε σίγουροι ότι το κείμενο δεν ήταν πολύ μεγάλο και σας τελείωνε η μπαταρία και την τελευταία φορά που τους διαβάσατε δεν καταλάβατε τίποτα και θέλατε να χρησιμοποιήσετε την υπηρεσία εκείνη τη στιγμή; Έτσι εγκαθίσταται η ανισορροπία δυνάμεων, διότι έχουμε συμφωνήσει οι προσωπικές μας πληροφορίες να συλλεχθούν και να χρησιμοποιηθούν σε βαθμό που ούτε μπορούμε να φανταστούμε.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
Οι συνάδελφοί μου κι εγώ αποφασίσαμε να εξετάσουμε το θέμα εκτενέστερα. Ξεκινήσαμε να διαβάζουμε τους όρους των δημοφιλών εφαρμογών σε ένα τυπικό τηλέφωνο. Και για να δείξουμε στον κόσμο πόσο εξωπραγματικό είναι να περιμένουμε από τους καταναλωτές να διαβάσουν πραγματικά τους όρους, τους εκτυπώσαμε, περισσότερες από 900 σελίδες, και καθίσαμε στο γραφείο μας και τους διαβάσαμε δυνατά στους εαυτούς μας, σε ζωντανή μετάδοση από την ιστοσελίδα μας. Όπως βλέπετε, μας πήρε πολλή ώρα. Μας πήρε 31 ώρες, 49 λεπτά και 11 δευτερόλεπτα να διαβάσουμε τους όρους χρήσης ενός τυπικού τηλεφώνου Αυτό είναι περισσότερο ακόμα κι από έναν μαραθώνιο προβολής όλων των ταινιών Χάρι Πότερ και του Νονού μαζί.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
(Γέλια)
(Laughter)
Και η ανάγνωση είναι εντελώς διαφορετική από την κατανόηση. Η κατανόηση θα μας έπαιρνε πάρα πολύ περισσότερο. Αυτό είναι ένα πραγματικό πρόβλημα, επειδή οι εταιρίες για 20 ή 30 χρόνια είναι αντίθετες σε κάποιο ρυθμιστικό πλαίσιο για το ίντερνετ, διότι οι χρήστες έχουν συγκατατεθεί στους όρους και προϋποθέσεις χρήσης
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
Όπως αποδείξαμε με αυτό το πείραμα, η επίτευξη πληροφορημένης συγκατάθεσης είναι σχεδόν αδύνατη. Πιστεύετε ότι είναι δίκαιο να αναθέσουμε αυτήν την ευθύνη στον καταναλωτή; Εγώ, όχι. Πιστεύω ότι πρέπει να απαιτήσουμε λιγότερο όλα-ή-τίποτα και περισσότερο κατανοητούς όρους, πριν τους αποδεχτούμε.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
(Χειροκρότημα)
(Applause)
Ευχαριστώ.
Thank you.
Τώρα θα σας πω μια ιστορία αγάπης. Μερικές από τα πιο δημοφιλείς εφαρμογές στον κόσμο είναι οι εφαρμογές γνωριμιών, μια βιομηχανία που σήμερα αξίζει περίπου τρία δισεκατομμύρια δολάρια τον χρόνο. Φυσικά δεν έχουμε πρόβλημα να μοιραστούμε τις προσωπικές μας λεπτομέρειες με το έτερον ήμισύ μας. Αλλά ποιος άλλος κρυφοκοιτάζει, αποθηκεύει και κοινοποιεί τις πληροφορίες μας, ενώ απογυμνώνουμε τις ψυχές μας; Η ομάδα μου κι εγώ, αποφασίσαμε να το ερευνήσουμε. Για να καταλάβω το θέμα σε όλες του τις πτυχές και να κάνω μια πραγματικά ολοκληρωμένη δουλειά, συνειδητοποίησα ότι έπρεπε να κατεβάσω ο ίδιος μία από τις πιο δημοφιλείς εφαρμογές γνωριμιών.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
Έτσι πήγα στο σπίτι μου, στη σύζυγό μου…
So I went home to my wife ...
(Γέλια)
(Laughter)
Με την οποία είχαμε μόλις παντρευτεί. «Σε πειράζει αν φτιάξω ένα προφίλ σε μια πολύ δημοφιλή εφαρμογή γνωριμιών για καθαρά επιστημονικούς σκοπούς;»
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
(Γέλια)
(Laughter)
Βρήκαμε τα εξής. Κρυμμένο πίσω από το βασικό μενού, υπήρχε ένα τσεκαρισμένο τετραγωνάκι, που έδινε στην εταιρία γνωριμιών πρόσβαση σε όλες τις προσωπικές μου φωτογραφίες στο Facebook, στην περίπτωσή μου περισσότερες από 2.000, και μερικές πολύ προσωπικές. Ακόμα χειρότερα, όταν διαβάσαμε τους όρους και προϋποθέσεις χρήσης, ανακαλύψαμε τα εξής, επιτρέψτε μου να φορέσω τα γυαλιά μου για να το διαβάσω, και θα σας το διαβάσω, διότι είναι μπερδεμένο. Μάλιστα.
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
«Αναρτώντας Περιεχόμενο», -- περιεχόμενο σημαίνει φωτογραφίες, συζητήσεις και άλλες αλληλεπιδράσεις στην υπηρεσία γνωριμιών -- «ως μέρος της υπηρεσίας, αυτόματα δίνετε το δικαίωμα στην Εταιρία, τις θυγατρικές της, τους κατόχους άδειας και εξωτερικούς συνεργάτες μια αμετάκλητη» -- που σημαίνει ότι δεν μπορείτε να αλλάξετε γνώμη -- «αέναη» -- που σημαίνει για πάντα -- «μη αποκλειστικό, μεταβιβάσιμο, υπεκχωρήσιμο, πλήρως εξοφλημένο, παγκόσμιο δικαίωμα και άδεια χρήσης, αντιγραφής, αποθήκευσης, άσκησης, εμφάνισης, αναπαραγωγής, καταγραφής, προσαρμογής, τροποποίησης και διανομής του περιεχομένου, ή ενσωμάτωσης του περιεχομένου σε άλλες εργασίες, παρέχετε και εξουσιοδοτείτε υπεκχωρήσεις των προηγουμένων σε οποιοδήποτε μέσο υπάρχει ή δημιουργηθεί στο μέλλον».
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
Αυτό βασικά σημαίνει ότι όλο το ιστορικό των ραντεβού σας και ό,τι σχετίζεται με αυτό μπορεί να χρησιμοποιηθεί για οποιονδήποτε σκοπό για πάντα. Απλώς φανταστείτε τα παιδιά σας να βλέπουν τις έξαλλες φωτογραφίες σας σε μια διαφήμιση για γεννητικό έλεγχο μετά από 20 χρόνια.
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
Όμως πραγματικά…
But seriously, though --
(Γέλια)
(Laughter)
Τι μπορεί να σημαίνουν αυτές οι διαφημιστικές πρακτικές για εσάς; Για παράδειγμα, οικονομική ζημιά: Με βάση το ιστορικό της πλοήγησής σας, αλγόριθμοι μπορούν να αποφασίσουν αν θα πάρετε ή όχι δάνειο. Υποσυνείδητη χειραγώγηση: Εταιρίες μπορούν να αναλύσουν τα συναισθήματά σας με βάση φωτογραφίες και συζητήσεις σας, στοχεύοντάς σας με διαφημίσεις, όταν είστε πιο ευάλωτοι. Δυσμενής διάκριση: Μια εφαρμογή γυμναστικής μπορεί να πουλήσει τα δεδομένα σας σε μια ασφαλιστική εταιρία αποτρέποντάς σας από ασφαλιστική κάλυψη στο μέλλον. Όλα αυτά συμβαίνουν στον κόσμο σήμερα.
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
Αλλά φυσικά, δεν είναι όλες οι χρήσεις των δεδομένων κακοπροαίρετες. Κάποιες είναι απλώς ελαττωματικές ή χρειάζονται περισσότερη δουλειά και κάποιες είναι πραγματικά σπουδαίες. Επίσης, υπάρχουν και καλά νέα. Οι εταιρίες γνωριμιών έχουν αλλάξει παγκοσμίως τις πολιτικές τους, αφότου τις κάναμε μήνυση. Αλλά οργανισμοί σαν τον δικό μου, που υπερασπίζονται τα δικαιώματα των καταναλωτών, δεν μπορούν να βρίσκονται παντού. Ούτε μπορούν οι καταναλωτές να λύσουν οι ίδιοι το πρόβλημα, επειδή αν γνωρίζουμε ότι κάτι αθώο που έχουμε πει θα μας στοιχειώσει στο μέλλον, θα σταματήσουμε να μιλάμε. Αν γνωρίζουμε ότι είμαστε υπό παρακολούθηση, θα αλλάξουμε τη συμπεριφορά μας. Αν δεν μπορούμε να ελέγξουμε ποιος έχει τα δεδομένα μας και πώς χρησιμοποιούνται, θα χάσουμε τον έλεγχο της ζωής μας.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
Οι ιστορίες που σας είπα σήμερα, δεν είναι τυχαία παραδείγματα. Βρίσκονται παντού και είναι σημάδι ότι τα πράγματα πρέπει να αλλάξουν. Πώς μπορούμε να πετύχουμε αυτές τις αλλαγές; Οι εταιρίες πρέπει να καταλάβουν ότι δίνοντας προτεραιότητα στην ιδιωτικότητα και την ασφάλεια, μπορούν να χτίσουν εμπιστοσύνη στους χρήστες τους. Οι κυβερνήσεις πρέπει να χρησιμοποιήσουν ένα πιο ασφαλές ίντερνετ διασφαλίζοντας την επιβολή και ενημέρωση των κανόνων. Και εμείς, οι πολίτες; Μπορούμε να χρησιμοποιήσουμε τη φωνή μας για να θυμίσουμε σε όλους ότι η τεχνολογία μπορεί πραγματικά να ωφελήσει την κοινωνία μόνον αν σέβεται βασικά δικαιώματα.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
Σας ευχαριστώ πολύ.
Thank you so much.
(Χειροκρότημα)
(Applause)