My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Job-ul meu la Twitter e să asigur încrederea utilizatorilor, să protejez drepturile şi siguranţa lor, atât între ei şi, uneori, de ei înşişi. Aşa arată graficul la Twitter. În ianuarie 2009, erau peste două milioane de tweets noi în fiecare zi pe platformă. Ianuarie 2014, peste 500 de milioane. Erau două milioane de tweets în mai puţin de şase minute. Asta reprezintă o creştere de 24,900%.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Majoritatea activităţii pe Twitter nu pune pe nimeni în pericol. Nu e niciun risc implicat. Meseria mea e să îndepărtez şi să previn activitatea care ar putea. Sună simplu, nu? Aţi putea crede că e uşor, având în vedere că doar ce am spus că majoritatea activităţii pe Twitter nu prezintă un pericol. De ce să petrec atât de mult timp căutând potenţiale calamităţi în activităţi inofensive? Având în vedere amploarea Twitter-ului, o şansă de unu la un milion se întâmplă de 500 de ori pe zi. E valabil şi pentru alte companii de această amploare. Pentru noi, cazurile izolate, acele situaţii rare, care sunt puţin probabil să apară, devin norme. Să spunem că 99.999% de tweets nu prezintă niciun risc. Nu implică nicio ameninţare. Poate că oamenii se documentează despre obiective turistice, precum Reciful Inimă din Australia sau tweet despre un concert la care au fost, împărtăşesc imagini cu pui de animale drăguţe. După ce scoţi procentul de 99.999%, acel procent mic de tweets care rămîne ajunge la aproximativ 150.000 pe lună. Scara mare la care lucrăm reprezintă o provocare.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Stiţi ce altceva face rolul meu provocator? Oamenii fac lucruri ciudate. (Râsete) Trebuie să-mi dau seama ce fac, de ce și dacă implică vreun risc, deseori fără prea mult context sau fundal. Vă voi arăta câteva exemple pe care le-am întâlnit cât am lucrat la Twitter-- toate sunt exemple reale — situaţii care la început păreau obişnuite, dar adevărul era ceva cu totul diferit. Detaliile au fost schimbate pentru a proteja pe cei nevinovaţi şi, uneori, pe cei vinovaţi. Vom începe uşor.
["Yo bitch"]
["Hey, bitch (cățea)"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Dacă aţi vedea un Tweet care spune doar asta, aţi putea crede că "pare un abuz." La urma urmei, de ce ai vrea să primeşti un mesaj cu "Hey, bitch." Încerc să fiu la curent cu cele mai recente tendinţe şi meme, aşa că ştiam că "hey, bitch" era un salut comun între prieteni, dar şi o referinţă populară pentru o "Despărţire urâtă". Recunosc că nu mă aşteptam să întâlnesc un al patrulea caz de utilizare. Se pare că e folosit pe Twitter şi când oamenii joacă roluri de câini. (Râsete) În acest caz, nu e doar neabuzivă, dar, din punct de vedere tehnic, e o formulă de salut corectă. (Râsete)
So okay, determining whether or not something is abusive without context, definitely hard.
Stabilirea dacă sau nu ceva e abuziv fără context, e cu siguranţă dificil.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Să ne uităm la spam. Iată un exemplu de cont angajat în comportamentul de spammer clasic, trimiţând exact acelaşi mesaj la mii de oameni. Deși e o machetă pe care am creat-o folosind contul meu, vedem conturi care fac asta tot timpul. Pare destul de simplu. Ar trebui doar să suspendăm automat conturile cu acest tip de comportament. Se pare că există excepţii de la regulă. Acel mesaj ar putea fi și o notificare la care te-ai înscris ca Staţia Spaţială Internaţională să treacă deasupra pentru că ai vrut să mergi afară şi să vezi dacă îl poţi vedea. Nu vei avea acea şansă dacă suspendăm greşit contul, crezând că e spam.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Să facem miza mai mare. Înapoi la contul meu, din nou prezentând comportamentul clasic. De data asta, trimite acelaşi mesaj şi link-ul. Așa arată ce numim phishing, cineva încercînd să fure informaţiile de cont ale unei persoane, orientând-o către un alt site. Clar, nu e un lucru bun. Vrem să suspendăm conturile angajate în acest tip de comportament. De ce e miza mai mare pentru asta? Asta ar putea fi şi un spectator la un miting care a reuşit să înregistreze un video cu un ofiţer de poliţie bătând un protestatar non-violent şi încearcă să informeze lumea. Nu vrem să ne hazardăm să reducem la tăcere acel discurs crucial, clasificându-l ca spam şi suspendându-l. Înseamnă că evaluăm sute de parametri când ne uităm la comportamente de cont şi, chiar şi atunci, putem greşi şi trebuie să-l reevaluăm.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Având în vedere provocările la care trebuie să fac față, e crucial nu doar să prevăd, ci şi să creez protecţii pentru situaţii neaşteptate. Nu e o problemă doar pentru mine, sau pentru Twitter, e o problemă pentru tine. Pentru oricine construieşte sau creează ceva care crede că va fi minunat şi va permite oamenilor să facă lucruri grozave. Ce fac atunci? Mă opresc şi mă gândesc cum ar putea toate astea să meargă teribil de rău? Vizualizez catastrofa. E greu. Există un fel de disonanţă cognitivă inerentă în a face asta, ca atunci când scrii jurămintele de nuntă în acelaşi timp cu contractul prenupţial. (Râsete) Dar trebuie s-o faci, mai ales când te căsătoreşti cu 500 de milioane tweets pe zi. Ce vreau sa spun prin "vizualizez catastrofa?" Încerc să mă gândesc cum ceva benign şi inofensiv ca imaginea unei pisici ar putea aduce moarte şi ce să fac pentru a preveni asta. Asta se întâmplă să fie următorul meu exemplu. Asta e pisica mea, Eli. Am vrut să oferim utilizatorilor posibilitatea de a adăuga fotografii la tweets lor. O imagine valorează o mie de cuvinte. Ai doar 140 de caractere. Adaugi o fotografie la tweet, uite cât de mult conţinut ai acum. Există tot felul de lucruri minunate pe care le poţi face adăugând o fotografie la un tweet. Job-ul meu nu e să mă gândesc la astea. E să mă gândesc la ce ar putea merge prost.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Cum ar putea acestă fotografie să ducă la moartea mea? Ei bine, iată o posibilitate. Există mai mult în acea imagine decât o pisică. Sunt date spaţiale. Când faci o fotografie cu smartphone-ul sau camera digitală, există o mulţime de informaţii suplimentare salvate în acea imagine. De fapt, această imagine conţine echivalentul acestui lucru, mai exact, asta. Sigur, nu e probabil ca cineva să încerce să mă urmărească şi să-mi facă rău bazându-se pe datele imaginii asociate cu fotografia pe care am făcut-o pisicii mele, dar încep prin a presupune ce e mai rău. De aceea, când am lansat fotografii pe Twitter, am hotărât să tăiem datele spaţiale. (Aplauze) Dacă încep prin a presupune ce e mai rău şi se întâmplă invers, pot să asigur că protecţia pe care o construim funcţionează atât pentru cazurile de utilizare aşteptate, cât şi neaşteptate.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Având în vedere că petrec zile şi nopţi imaginându-mi ce e mai rău, nu ar fi surprinzător ca viziunea mea să fie întunecată. (Râsete) Nu este. Majoritatea interacţiunilor pe care le văd-- şi văd multe, credeţi-mă, sunt pozitive, oamenii oferindu-se să ajute, să se conecteze sau să împărtăşească informaţii. Pentru aceia dintre noi care lucrează la dimensiunea asta, însărcinaţi să ţină oamenii în siguranţă, trebuie să presupunem ce e mai rău, deoarece pentru noi, o şansă la un milion are şanse destul de mari.
Thank you.
Vă mulţumesc.
(Applause)
(Aplauze)