Η δουλειά μου στο Τουίτερ είναι να διασφαλίζω την εμπιστοσύνη των χρηστών, να προστατεύω τα δικαιώματά τους και να τους προστατεύω, τον έναν από τον άλλο, ή και μερικές φορές, από τους εαυτούς τους. Ας μιλήσουμε για τα μεγέθη, όταν μιλάμε για το Τουίτερ. Τον Ιανουάριο του 2009, βλέπαμε πάνω από 2 εκατομμύρια καινούργιες κοινοποιήσεις την ημέρα στην πλατφόρμα. Τον Ιανουάριο του 2014, βλέπαμε πάνω από 500 εκατομμύρια. Βλέπαμε 2 εκατομμύρια κοινοποιήσεις σε λιγότερο από έξι λεπτά. Αυτή είναι μια αύξηση της τάξης του 24.900%.
My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Η μεγάλη πλειοψηφία της δραστηριότητας στο Τουίτερ δεν βλάπτει κανέναν. Δεν εμπλέκεται κάποιος κίνδυνος. Η δουλειά μου είναι να προλαμβάνω και να αποτρέπω τέτοια δραστηριότητα Είναι σαφές, σωστά; Ακούγεται εύκολο, αφού μόλις είπα πως η μεγάλη πλειοψηφία της δραστηριότητας στο Τουίτερ δεν βλάπτει κανέναν. Γιατί να ξοδεύεις τόσο χρόνο, ψάχνοντας πιθανές καταστροφές σε ακίνδυνες δραστηριότητες; Δεδομένης της κλίμακας στην οποία βρίσκεται το Τουίτερ, η μία πιθανότητα στο εκατομμύριο συμβαίνει 500 φορές την ημέρα. Όπως και σε άλλες εταιρείες, που κινούνται σε τέτοια κλίμακα. Για μας, οι ακραίες περιπτώσεις, εκείνες οι σπάνιες καταστάσεις που είναι απίθανο να συμβούν, είναι περισσότερο κανόνας. Έστω ότι το 99.999% των κοινοποιήσεων δεν ενέχουν κίνδυνο για κανέναν. Δεν απειλείται κανείς. Ενδεχομένως οι άνθρωποι να εκθέτουν ταξιδιωτικά μνημεία, όπως ο Κοραλλιογενής Ύφαλος της Αυστραλίας, ή να γράφουν για μια συναυλία στην οποία βρίσκονται, ή να ανεβάζουν φωτογραφίες από χαριτωμένα μωράκια ζώων. Αν αφαιρέσουμε αυτό το 99.999%, εκείνο το μικρό ποσοστό των κοινοποιήσεων που απομένουν, λογαριάζεται σε περίπου 150.000 τον μήνα. Και μόνο η κλίμακα αυτού που αντιμετωπίζουμε, το καθιστά πρόκληση.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Ξέρετε τι άλλο κάνει τον ρόλο μου ιδιαίτερα απαιτητικό; Οι άνθρωποι κάνουν περίεργα πράγματα. (Γέλια) Κι εγώ πρέπει να καταλάβω τι κάνουν, γιατί και εάν είναι επικίνδυνο, συχνά χωρίς πολλά στοιχεία για το ευρύτερο πλαίσιο ή το παρασκήνιο. Θα σας δείξω ορισμένα παραδείγματα, τα οποία έχω δει όσο δουλεύω στο Τουίτερ -- είναι πραγματικά παραδείγματα -- από περιπτώσεις που στην αρχή έμοιαζαν κοινότυπες, αλλά, στην ουσία, ήταν κάτι τελείως διαφορετικό. Οι λεπτομέρειες έχουν αλλαχτεί για να προστετευθούν οι αθώοι και, ορισμένες φορές, οι ένοχοι. Θα ξεκινήσουμε με τα εύκολα.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
[«Μωρή σκύλα!»]
["Yo bitch"]
Αν βλέπατε μια κοινοποίηση που έγραφε μόνο αυτό, μπορεί να σκεφτόσασταν: «Αυτό φαίνεται σαν βρισιά». Στο κάτω-κάτω, γιατί να θέλετε να λάβετε ένα μήνυμα που λέει: «Μωρή σκύλα!» Προσπαθώ να είμαι σχετικά ενημερωμένη με τις τελευταίες διαδικτυακές τάσεις και τη μόδα, κι έτσι γνώριζα ότι το «Μωρή σκύλα!» ήταν, επίσης, ένας κοινός χαιρετισμός μεταξύ φίλων, όπως επίσης και μια δημοφιλής αναφορά στη σειρά «Breaking Bad». Παραδέχομαι ότι δεν περίμενα να συναντήσω περίπτωση που η χρήση της έκφρασης αφορά κάτι άλλο. Όπως αποδεικνύεται, χρησιμοποιείται, επίσης, στο Τουίτερ όταν οι άνθρωποι υποδύονται τους σκύλους, σε παιχνίδια ρόλων. (Γέλια) Και, σε αυτή την περίπτωση, όχι μόνο δεν είναι βρισιά, αλλά είναι, στην πράξη, ένας πολύ ακριβής χαιρετισμός. (Γέλια)
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Το να καθορίσεις αν κάτι είναι προσβλητικό ελλείψει ευρύτερου πλαισίου αναφοράς, είναι σίγουρα δύσκολο.
So okay, determining whether or not something is abusive without context, definitely hard.
Ας δούμε την ανεπιθύμητη αλληλογραφία. Εδώ έχουμε ένα παράδειγμα λογαριασμού με κλασσική συμπεριφορά σπάμερ που στέλνει ακριβώς το ίδιο μήνυμα σε χιλιάδες ανθρώπους. Αν και αυτό είναι μακέτα με τον δικό μου λογαριασμό, βλέπουμε λογαριασμούς που το κάνουν αυτό όλη την ώρα. Φαίνεται αρκετά ξεκάθαρο. Θα έπρεπε να αναστέλλουμε λογαριασμούς αυτόματα με τέτοιου είδους συμπεριφορά. Όπως φαίνεται, υπάρχουν εξαιρέσεις σ' αυτό τον κανόνα. Το μήνυμα θα μπορούσε να είναι μια ειδοποίηση με εγγραφή για το πότε θα περάσει από πάνω σας ο Διεθνής Διαστημικός Σταθμός, επειδή θέλετε να βγείτε έξω και να δείτε αν είναι ορατός. Δεν θα έχετε την ευκαιρία, αν αναστείλουμε κατά λάθος τον λογαριασμό, θεωρώντας τον ανεπιθύμητη αλληλογραφία.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Ωραία. Πάμε σε ένα σοβαρότερο παράδειγμα. Πίσω στον λογαριασμό μου, που επιδεικνύει ξανά κλασική συμπεριφορά. Αυτή τη φορά αποστέλλει το ίδιο μήνυμα και σύνδεσμο. Αυτό συχνά είναι ενδεικτικό του «ψαρέματος», η προσπάθεια υποκλοπής τα στοιχεία λογαριασμού κάποιου άλλου ανακατευθύνοντάς τον σε άλλη ιστοσελίδα. Αυτό είναι ξεκάθαρο ότι δεν είναι κάτι καλό. Θέλουμε -και το κάνουμε- να αναστέλλουμε λογαριασμούς με τέτοιου είδους συμπεριφορά. Γιατί, λοιπόν, αυτό το παράδειγμα είναι σοβαρότερο; Διότι θα μπορούσε να αφορά έναν παριστάμενο σε συλλαλητήριο, ο οποίος κατάφερε να καταγράψει ένα βίντεο, μ έναν αστυνομικό να χειροδικεί εναντίον ειρηνικού διαδηλωτή, ο οποίος προσπαθεί να ευαισθητοποιήσει τον κόσμο για κάτι. Δεν θέλουμε να διακινδυνεύσουμε την πιθανή φίμωση μιας τόσο σημαντικής φωνής, με το να την κατατάξουμε σε σπαμ και να την αναστείλουμε. Αυτό σημαίνει ότι αξιολογούμε εκατοντάδες παραμέτρους όταν κοιτάμε συμπεριφορά λογαριασμών και ακόμα και τότε, μπορεί να κάνουμε λάθος και να χρειαστεί να επαναξιολογήσουμε.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Δεδομένου του είδους των προκλήσεων που αντιμετωπίζω, είναι σημαντικό, όχι μόνο να προβλέπω αλλά και να σχεδιάζω προφυλάξεις για το απροσδόκητο. Κι αυτό δεν είναι ζήτημα μόνο για μένα, ή το Τουίτερ, είναι ζήτημα για σας. Είναι ζήτημα για όποιον χτίζει ή δημιουργεί κάτι, και πιστεύει ότι θα είναι καταπληκτικό και θα επιτρέψει στον κόσμο να κάνει εκπληκτικά πράγματα. Τι κάνω, λοιπόν; Σταματώ και σκέφτομαι, πώς θα μπορούσαν όλα αυτά να πάνε τελείως στραβά; Φαντάζομαι την καταστροφή. Κι αυτό είναι δύσκολο. Υπάρχει μια έμφυτη νοητική δυσαρμονία όταν το κάνεις αυτό, όπως όταν γράφεις τους γαμήλιους όρκους σου, την ίδια στιγμή με το προγαμιαίο σου συμβόλαιο. (Γέλια) Αλλά πρέπει να το κάνεις, ειδικά αν παντρεύεσαι 500 εκατομμύρια κοινοποιήσεις την ημέρα. Τι εννοώ όταν λέω «Φαντάζομαι την καταστροφή»; Προσπαθώ να σκεφτώ με ποιο τρόπο, κάτι τόσο αγαθό και αθώο, όπως η φωτογραφία μιας γάτας, θα μπορούσε να οδηγήσει σε θάνατο, και τι να κάνω για να αποτρέψω κάτι τέτοιο. Το οποίο είναι και το επόμενό μου παράδειγμα. Αυτή είναι η γάτα μου, ο Ίλαϊ. Θέλαμε οι χρήστες να έχουν τη δυνατότητα να βάζουν εικόνες στις κοινοποιήσεις τους. Μια εικόνα αξίζει χίλιες λέξεις. Έχεις μόνο 140 χαρακτήρες. Βάζεις μια εικόνα στην κοινοποίησή σου, και έχεις τώρα πολύ περισσότερο περιεχόμενο. Μπορείς να κάνεις θαυμάσια πράγματα όταν βάζεις μια εικόνα στην κοινοποίησή σου. Η δουλειά μου δεν είναι να σκέφτομαι αυτά. Είναι να σκέφτομαι τι θα μπορούσε να πάει στραβά.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Πώς θα μπορούσε αυτή η εικόνα να οδηγήσει στον θάνατό μου; Να μια πιθανότητα. Υπάρχουν περισσότερα πράγματα σ' αυτή την εικόνα, από μια γάτα. Υπάρχουν γεωγραφικά δεδομένα. Όταν βγάζεις μια φωτογραφία με το κινητό σου ή με την ψηφιακή σου μηχανή, υπάρχουν πολλές επιπλέον πληροφορίες που αποθηκεύονται με τη φωτογραφία. Στην ουσία, αυτή η εικόνα περιέχει το αντίστοιχο αυτού, πιο συγκεκριμένα, αυτό. Βέβαια, είναι απίθανο κάποιος να προσπαθήσει να μ' εντοπίσει και να με βλάψει, βασιζόμενος στα δεδομένα που συνοδεύουν τη φωτογραφία που έβγαλα τη γάτα μου, αλλά ξεκινώ με το να υποθέτω το χειρότερο. Γι' αυτό όταν λανσάραμε τις φωτογραφίες στο Τουίτερ, πήραμε την απόφαση να αφαιρέσουμε αυτά τα γεωγραφικά δεδομένα. (Χειροκρότημα) Αν ξεκινήσω με το να υποθέσω το χειρότερο, και σκεπτόμενη ανάποδα, μπορώ να είμαι σίγουρη ότι οι προφυλάξεις μας αρκούν και για τις αναμενόμενες και για τις μη αναμενόμενες περιπτώσεις χρήσης.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Δεδομένου ότι περνάω τις μέρες και τις νύχτες μου σκεπτόμενη το χειρότερο που θα μπορούσε να συμβεί, δεν θα ήταν περίεργο αν η κοσμοθεωρία μου ήταν καταθλιπτική. (Γέλια) Δεν είναι. Η μεγάλη πλειοψηφία των αλληλεπιδράσων που βλέπω, -- και βλέπω πολλές, πιστέψτε με-- είναι θετικές άνθρωποι που επιζητούν να βοηθήσουν, να επικοινωνήσουν, και να μοιραστούν πληροφορίες ο ένας με τον άλλο. Όμως εμείς που ασχολούμαστε με την κλίμακα, που είμαστε επιφορτισμένοι με την ασφάλεια των ανθρώπων, πρέπει να υποθέτουμε ότι θα συμβεί το χειρότερο, γιατί για μας, μία πιθανότητα στο ένα εκατομμύριο είναι μια μεγάλη πιθανότητα.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Ευχαριστώ.
Thank you.
(Χειροκρότημα)
(Applause)