My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Il mio compito in Twitter è assicurarmi la fiducia degli utenti, proteggere i loro diritti e proteggerli, sia uno dall'altro che, a volte, da loro stessi. Ora parliamo dei numeri in gioco su Twitter. Nel gennaio del 2009, abbiamo visto più di due milioni di nuovi messaggi al giorno sulla piattaforma. Gennaio 2014, più di 500 milioni. Vedevamo due milioni di messaggi in meno di sei minuti. Un incremento del 24 900 percento.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Ora, la stragrande maggioranza dell'attività su Twitter non mette nessuno a rischio. Non c'è alcun rischio. Il mio lavoro è stanare e prevenire ogni attività potenzialmente dannosa. Sembra semplice, vero? Potreste persino pensare che sia facile, considerando che ho appena detto che la stragrande maggioranza dell'attività su Twitter non mette nessuno a rischio. Perché passare così tanto tempo alla ricerca di possibili calamità in attività innocue? Considerando la quantità di messaggi a cui si è arrivati su Twitter, un evento con una probabilità di uno su un milione avviene 500 volte al giorno. La stessa cosa avviene per altre aziende che operano con questi numeri. Da noi, i casi limite, ovvero quelle rare situazioni che difficilmente accadono, sono la norma. Supponiamo che il 99,999 percento dei messaggi non ponga alcun rischio per nessuno. Non c'è alcun rischio. Magari delle persone stanno riportando le tappe di un viaggio come l'Heart Reef in Australia, o magari scrivono di un concerto a cui stanno assistendo o condividono foto di cuccioli carini. Dopo aver tolto questo 99,999 percento, quella minuscola percentuale di messaggi rimanenti equivale a circa 150 000 messaggi al mese. La quantità di messaggi con cui abbiamo a che fare è in sé una sfida.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Sapete cos'altro rende il mio lavoro particolarmente impegnativo? Le persone fanno cose strane. (Risate) Ed io devo capire cosa stanno facendo e perché e pure se ci sia o no un rischio connesso spesso conoscendo poco del contesto o del retroscena. Ora vi mostrerò degli esempi che ho incontrato durante il mio lavoro per Twitter, questi sono tutti esempi reali di situazioni che inizialmente sembravano ovvie, ma che in realtà erano qualcosa di completamente diverso. I dettagli sono stati cambiati in modo tale da proteggere l'innocente ed a volte anche il colpevole. Cominciamo con qualcosa di semplice.
["Yo bitch"]
["Uè cagna"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Se qualcuno vedesse un messaggio con scritto solo questo, potrebbe pensare tra sé e sé, "Sembra un insulto." Dopo tutto, perché mai qualcuno dovrebbe volere ricevere un messaggio come: "Uè,cagna." Ora, io provo a stare dietro alle ultime mode ed ai post ironici, per cui sapevo che "uè,cagna" veniva anche usato spesso come saluto tra amici, oltre ad essere una citazione famosa di "Breaking Bad". Ammetto che non mi sarei aspettata di incontrare un quarto uso. Si scopre che si usa anche su Twitter quando le persone impersonano dei cani. (Risate) Ed infatti, in quel caso, non solo non è offensivo, ma è tecnicamente il saluto appropriato. (Risate)
So okay, determining whether or not something is abusive without context, definitely hard.
Quindi, determinare se qualcosa sia o meno offensivo, senza avere un contesto, è sicuramente difficile.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Diamo un'occhiata allo spam. Ora c'è l'esempio di un account intento a "spammare" nel modo classico, ovvero inviando lo stesso identico messaggio a migliaia di persone. Mentre questo è solo un esempio che ho creato usando il mio account, vediamo degli account fare questo di continuo. Sembra davvero semplice. Sicuro, dovremmo automaticamente sospendere gli account intenti in questo genere di comportamenti. Pare che ci siano delle eccezioni alla regola. Pare che quel messaggio potrebbe essere anche un messaggio di notifica perché vi siete iscritti per sapere quando la stazione spaziale internazionale vi passa sopra la testa, perché volevate uscire e riuscire a vederla. Non avreste questa possibilità se sospendessimo l'account per errore pensando che sia dello spam.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Va bene. Alziamo la posta. Torniamo al mio account, che ancora una volta esibisce un comportamento classico. Questa volta sta mandando lo stesso messaggio e lo stesso link. Di solito, questo è indicativo del cosiddetto "phishing", ovvero qualcuno che cerca di rubare le informazioni dell'account di qualcun altro. indirizzandolo verso un altro sito. È abbastanza ovvio che non è una buona cosa. Noi intendiamo, e lo facciamo, sospendere gli account che sono intenti in questa pratica. Allora perché la posta in gioco è più alta in questo caso? Beh, si potrebbe trattare di un passante ad un corteo che è riuscito a fare un video di un poliziotto che malmena un manifestante pacifico che sta provando a far sapere al mondo cosa sta succedendo. Non vogliamo rischiare di ridurre potenzialmente al silenzio quel discorso cruciale classificandolo come spam e sospendendolo. Questo significa che valutiamo centinaia di parametri quando osserviamo i comportamenti degli account, e comunque, possiamo ancora sbagliarci ed essere costretti a riconsiderare.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Considerato il tipo di sfide che affronto, è fondamentale , non solo che io preveda, ma anche sviluppi protezioni per l'imprevedibile. E questo non è un problema solo mio, o di Twitter, è un problema anche vostro. È un problema per chiunque stia costruendo o creando qualcosa che si pensa possa essere grandioso e che darà la possibilità alla gente di fare cose incredibili. Allora, io cosa faccio? Mi fermo un attimo e penso, come potrebbe tutto questo andare a rotoli? Mi immagino una catastrofe. Ed è difficile. C'è una sorta di dissociazione cognitiva insita nel farlo, come quando stai scrivendo le tue promesse nuziali ed allo stesso tempo il contratto prematrimoniale. (Risate) Ma comunque devi farlo, specialmente se stai sposando 500 milioni di messaggi al giorno. Cosa intendo con "immaginarsi una catastrofe?" Penso a come qualcosa, come l'immagine innocua ed inoffensiva di un gatto, possa causare una morte, e cosa fare per prevenirlo. Il che, guarda caso, è il mio prossimo esempio. Questo è il mio gatto, Eli. Volevamo dare agli utenti la capacità di aggiungere foto ai loro tweet. Un'immagine vale più di mille parole. Noi vi diamo solo 140 caratteri. Aggiungete una foto al vostro tweet guarda quante parole in più avete ora. Potete fare ogni genere di grandi cose aggiungendo una foto ad un tweet. Il mio lavoro non è pensare a queste cose. È pensare a cosa può andare storto.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Come potrebbe quest'immagine portare alla mia morte? Bene, ecco una possibilità. Non c'è solo un gatto in quella foto. Ci sono informazioni geografiche. Quando fate una foto con lo smartphone o con la fotocamera digitale, ci sono molte informazioni aggiuntive salvate assieme all'immagine. Infatti, quest'immagine contiene anche l'equivalente di questo, più specificatamente, questo. Sicuramente, è improbabile che qualcuno provi a rintracciarmi e farmi del male basandosi sulle informazioni associate ad una foto che ho fatto al mio gatto ma comincio pensando che il peggio accadrà. Ecco perché, quando abbiamo introdotto le foto su Twitter, abbiamo preso la decisione di eliminare i dati geografici. (Applausi) Se comincio con l'assumere il peggio e lavoro a ritroso, posso garantire che le protezioni che ideiamo funzionino sia per i casi prevedibili che per quelli imprevedibili.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Dato che trascorro giorno e notte ad immaginare qual è il peggio che può accadere, non sorprenderebbe nessuno se avessi una visione pessimista del mondo. (Risate) Non è così. La grande maggioranza delle interazioni che vedo, e ne vedo tante, credetemi, sono positive, persone che entrano in contatto per aiutarsi o per incontrarsi o condividere informazioni tra loro. È solo che per quelli di noi che trattano questa mole di dati, quelli su cui ricade il compito di salvaguardare le persone, il caso peggiore è da considerarsi come un evento sicuro, perché per noi, una probabilità di uno su un milione è una probabilità decisamente buona.
Thank you.
Grazie.
(Applause)
(Applausi)