My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Moj posao u Twitteru je osigurati povjerenje korisnika, zaštiti prava korisnika i očuvati sigurnost korisnika, jedne od drugih i, ponekad, od sebe samih. Pričajmo kako razmjer izgleda u Twitteru. U siječnju 2009. vidjeli smo više od dva milijuna novih tweetova svakog dana na platformi. Siječanj 2014., više od 500 milijuna. Vidimo dva milijuna tweetova u manje od šest minuta. To je povećanje od 24900 posto.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Sad, velika većina aktivnosti na Twitteru nikome ne škodi. Ne postoji rizik. Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi. Zvuči jednostavno, zar ne? Možete čak misliti da bi to bilo lako, s obzirom na to da sam rekla da je velika većina aktivnosti na Twitteru bezazlena. Zašto potrošiti toliko vremena tražeći potencijalne nezgode u neškodljivim aktivnostima? Uzimajući u obzir razmjer na kojem je Twitter, situacija jedan u milijun događa se 500 puta na dan. To je točno i za druge tvrtke koje rade na ovom razmjeru. Za nas, rubni slučajevi, one rijetke situacije koje su neizgledne da se dogode, su više kao norma. Recimo da 99,999 posto tweetova ne predstavljaju prijetnju nikome. Ne postoji nikakva prijetnja. Možda ljudi bilježe putne znamenitosti Kao što je Australski Heart Reef ili tweetaju o koncertu na kojem su, ili dijele slike slatkih životinjskih mladunaca. Kada oduzmete tih 99,999 posto, taj mali postotak tweetova koji ostaje daje otprilike 150,000 mjesečno. Čisti razmjer onoga čime se bavimo predstavlja izazov.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Znate što još čini moju ulogu posebno izazovnom? Ljudi rade čudne stvari. (Smijeh) I moram otkriti što oni to rade, zašto, i postoji li ili ne rizik, često bez puno konteksta ili pozadine. Pokazat ću vam neke primjere na koje sam naišla za vrijeme rada u Twitteru -- ovo su sve stvarni primjeri -- situacija koje su se činile jednostavne na početku ali stvarna priroda stvari bila je nešto potpuno drugačije, Detalji su promijenjeni kako bi zaštitili nevine i ponekad krivce. Počet ćemo lagano.
["Yo bitch"]
["Hej kujo"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Kada biste vidjeli Tweet koji kaže samo ovo, pomislili biste, "Ovo izgleda kao zlostavljanje." Na kraju krajeva, zašto biste htjeli primiti poruku. "Hej, kujo." Sad, pokušavam ostati relativno u tijeku sa najnovijim trendovima i memeima, pa sam znala da "Hej, kujo" je također učestali pozdrav među prijateljima, kao i popularna referenca na "Breaking Bad". Priznat ću da nisam očekivala susresti četvrti slučaj korištenja. Ispada da se također koristi na Twitteru kada ljudi glume pse. (Smijeh) I zapravo, u tom slučaju, ne samo da nije zlostavljanje nego je to tehnički ispravan pozdrav. (Smijeh)
So okay, determining whether or not something is abusive without context, definitely hard.
Dakle, utvrđivanje je li ili nije nešto uvredljivo bez konteksta, definitivno teško.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Pogledajmo spam. Ovo je primjer računa koji je uključen u klasično spammersko ponašanje, šaljući potpuno jednaku poruku tisućama ljudi. Iako je ovo samo primjer koji sam napravila koristeći svoj račun, vidimo račune kako to rade cijelo vrijeme. Čini se poprilično jednostavno. Jednostavno bi trebali suspendirati račune koji se bave ovakvim stvarima. Ispada da postoje neke iznimke tome pravilu. Ispada da poruke mogu biti i obavijest za koju ste se prijavili kako bi znali da Međunarodna Svemirska Postaja prolazi jer ste htjeli izaći van i pokušati vidjeti je. Nećete dobiti tu priliku ako mi greškom suspendiramo račun misleći da je to spam.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Ok. Povisimo uloge. Natrag na moj račun, ponovno prikazuje klasično ponašanje. Ovoga puta šalje istu poruku i poveznicu. Ovo je često indikator nečega što se zove "phishing" odnosno kada netko pokušava ukrasti informacije o računu druge osobe usmjeravajući ih na drugu web stranicu. To očito nije dobra stvar. Mi želimo, i to i činimo, suspendirati račune koji se bave ovakvim stvarima. Zašto su onda ulozi veći u ovakvim situacijama? Pa, ovo bi mogao biti promatrač na skupu koji je uspio snimiti video policajca koji tuče prosvjednika koji pokušava svijetu reći što se događa. Ne želimo se kockati s tim da nehotično utišamo taj krucijalni govor klasificirajući ga kao spam i suspendirajući ga. To znači da procjenjujemo stotine parametara kada gledamo ponašanja računa, i čak i tada možemo pogriješiti i moramo ponovno procjenjivati.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Sad, uzimajući u obzir izazove s kojima se suočavam, ključno je ne da samo predvidim nego i dizajniram zaštitu od neočekivanog. I to nije samo problem za mene, ili Twitter, to je vaš problem. To je problem za svakoga tko gradi ili stvara nešto za što mislite da će biti odlično i dopustit će ljudima da čine odlične stvari. Dakle što ja činim? Zastanem i razmišljam, kako bi sve ovo moglo poći strašno po krivu? Vizualiziram katastrofu. I to je teško. Postoji određena svojstvena kognitivna disonanca prilikom činjenja toga, kao kad pišete svoje svadbene zavjete u isto vrijeme kada pišete predbračni ugovor. (Smijeh) Ali to i dalje morate činiti, osobito ako se udajete za 500 milijuna tweetova po danu. Što mislim kada kažem "vizualiziranje katastrofe?" Pokušavam misliti kako nešto bezazleno i neškodljivo kao što je slika mačke može voditi do smrti, i što učiniti kako bismo to spriječili. Što je moj sljedeći primjer. Ovo je moj mačak, Eli. Htjeli smo dati korisnicima mogućnost da dodaju slike svojim tweetovima. Slika vrijedi tisuću riječi. A imate samo 140 znakova. Kada dodate sliku svom tweetu, pogledajte koliko više sadržaja sada imate. Postoji jako puno super stvari koje možete napraviti dodajući sliku na tweet. Moj posao nije misliti na njih, već misliti na to što bi moglo poći po krivu.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Kako bi ova slika mogla dovesti do moje smrti? Pa, evo jedne mogućnosti. Na ovoj slici nije samo moja mačka. Postoje geopodatci. Kada uslikate fotografiju vašim pametnim telefonom ili digitalnom kamerom, postoji mnogo dodatnih informacija koje su spremljene u toj slici. Zapravo, ova slika također sadrži ekvivalent ovoga, točnije ovoga. Naravno, malo je vjerojatno da će netko pokušati pronaći me i učiniti mi nešto nažao na osnovi podataka sa slike povezane sa fotografijom moje mačke, ali počnem pretpostavljati da će se dogoditi najgore. Zato smo, kad smo lansirali fotografije na Twitteru, odlučili ukloniti sve geopodatke. (Pljesak) Ako počnem s najgorom pretpostavkom i radim unatrag, mogu biti sigurna da će zaštite koje smo izgradili raditi za očekivane i neočekivane slučajeve korištenja.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Uzimajući u obzir da dane i noći provodim zamišljajući što se najgore može dogoditi ne bi bilo čudno da mi je pogled na svijet tmuran. (Smijeh) Nije. Velika većina interakcija koje vidim -- i vidim ih puno vjerujte -- su pozitivne, ljudi pokušavaju pomoći ili povezati se ili dijeliti informacije jedni s drugima. Ali stvar je u tome da mi koji se nosimo s razmjerom, mi koji se brinemo da su ljudi sigurni, moramo pretpostaviti da će se najgore dogoditi, jer za nas, šanse jedan naprama milijun su poprilično dobri izgledi.
Thank you.
Hvala vam.
(Applause)
(Pljesak)