Mein Job bei Twitter ist es, das Vertrauen der User zu bewahren, User-Rechte zu sichern und sie zu beschützen, sowohl voreinander als manchmal auch vor sich selbst. Reden wir über die Größenordnungen bei Twitter. Im Januar 2009 gab es auf der Plattform jeden Tag mehr als 2 Millionen neue Tweets. Im Januar 2014 waren es mehr als 500 Millionen. 2 Millionen Tweets geschehen jetzt innerhalb von weniger als 6 Minuten. Das ist eine Steigerung um 24 900 %. Die große Mehrheit aller Aktivitäten auf Twitter
My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase. Now, the vast majority of activity on Twitter
schadet niemandem. Da besteht kein Risiko. Mein Job ist es, jene Aktivitäten auszumerzen und zu verhindern, die schädlich sein könnten. Hört sich wie ein Kinderspiel an. Vielleicht denken Sie, das wäre einfach, da ich ja gerade sagte, dass die große Mehrheit der Aktivitäten auf Twitter niemandem schadet. Warum also so viel Zeit damit verbringen, nach potenziellem Unheil in harmlosen Aktivitäten zu suchen? Angesichts der Größe von Twitter geschehen Dinge mit einer Wahrscheinlichkeit von 1 : 1 000 000 ganze 500-mal am Tag. Das Gleiche gilt für andere Unternehmen ähnlicher Größe. Für uns sind solche Ausnahmefälle, seltene, unwahrscheinliche Situationen, eher der Normfall. Sagen wir mal, 99,999 % der Tweets gefährden niemanden. Von ihnen geht keine Gefahr aus. Vielleicht dokumentieren Leute Sehenswürdigkeiten, so wie das "Heart Reef" in Australien, oder twittern über ein Konzert, auf dem sie sind, oder teilen Bilder von niedlichen Tierbabys. Wenn man die 99,999 % ausblendet, kommt der winzige verbleibende Prozentsatz von Tweets noch immer auf nahezu 150 000 im Monat.
puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month.
Die schiere Größe, mit der wir es zu tun haben, macht es zu einer Herausforderung. Wissen Sie, was für mich noch eine große Herausforderung darstellt? Leute machen komisches Zeug. (Gelächter) Ich muss herausfinden, was sie machen, warum, und ob ein Risiko besteht, oft ohne viel Wissen über die Zusammenhänge oder Hintergründe. Ich zeige Ihnen ein paar Beispiele, auf die ich bei Twitter gestoßen bin. Das sind echte Beispiele von Situationen, die erst ganz klar schienen, aber in Wahrheit völlig anders waren. Manche Details wurden verändert, um Unschuldige zu schützen -- und manchmal auch die Schuldigen. Wir beginnen mal ganz einfach.
The sheer scale of what we're dealing with makes for a challenge. You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
["Hey, Schlampe"] Wenn Sie einen solchen Tweet sähen,
["Yo bitch"] If you saw a Tweet that only said this,
würden Sie sich vielleicht sagen: "Das sieht nach Beleidigung aus." Denn warum würden Sie so eine Nachricht erhalten wollen? "Hey, Schlampe." Ich versuche, relativ nahe an den neusten Trends und Memes zu bleiben. Also wusste ich, dass "Hey, Schlampe" sowohl häufig eine Begrüßung unter Freunden ist als auch eine gängige Referenz zu "Breaking Bad". Ich gebe zu, dass ich nicht erwartet hatte, einer vierten Interpretation zu begegnen. Der Ausdruck wird auf Twitter auch von Leuten benutzt, die Hunde-Rollenspiele praktizieren. [bitch = auch: Hündin] (Gelächter) Tatsächlich ist es in diesem Fall nicht nur nicht beleidigend, sondern eine völlig korrekte Anrede. (Gelächter)
you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Also festzustellen, ob etwas beleidigend ist, ohne den Zusammenhang zu kennen, ist wirklich schwer.
So okay, determining whether or not something is abusive without context, definitely hard.
Schauen wir uns mal Spam an. Hier ein Twitter-Account, der sich wie ein klassischer Spam-Account verhält, indem er denselben Tweet an Tausende von Leuten schickt. Dieses Beispiel ist von meinem Account konstruiert, aber wir beobachten welche, die das ständig tun. Scheint ziemlich eindeutig zu sein. Wir sollten Accounts, die sich so verhalten, einfach automatisch sperren. Es gibt aber ein paar Ausnahmen von der Regel. Vielleicht haben Sie die Nachricht sogar angefordert, weil Sie wissen wollen, wann sich die Internationale Raumstation über Ihnen befindet, weil Sie raus gehen und schauen wollen, ob Sie sie entdecken. Das könnten Sie nicht, wenn wir versehentlich den Account sperren würden, weil wir denken, es ist Spam.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Okay. Legen wir die Latte höher. Kehren wir zurück zu meinem Account und zeigen wir wieder klassisches Verhalten. Dieses Mal sendet er die gleiche Nachricht mit gleichem Link, was oft ein Anzeichen für "Phishing" ist: Jemand versucht, Account-Infos einer anderen Person zu stehlen, indem er sie zu einer anderen Webseite lotst. Das ist natürlich nicht besonders nett. Wir möchten Accounts, die so etwas tun, sperren und tun das auch. Also warum liegt hier die Latte höher? Es könnte auch ein Augenzeuge sein, dem es gelang, einen Polizisten zu filmen, der einen friedlichen Demonstranten schlägt, und Ersterer versucht, die Welt über die Zustände aufzuklären. Wir wollen nicht riskieren, so wichtige Nachrichten zu unterdrücken, indem wir sie als Spam kennzeichnen und aussortieren. Deshalb erheben wir Hunderte von Parametern beim Beobachten eines Accounts, und trotzdem können wir uns irren und müssen Entscheidungen zurücknehmen.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Angesichts der Herausforderungen, denen ich gegenüberstehe, ist es wichtig, dass ich Probleme nicht nur voraussehe, sondern mich auch gegen das Unerwartete wappne. Und das ist nicht nur ein Thema für mich oder für Twitter, es ist auch eines für Sie. Es ist ein Thema für jeden, der etwas erschafft, von dem er denkt, es könnte etwas Wundervolles werden und Leute könnten tolle Sachen machen. Also was mache ich? Ich lege einen Pause ein und denke, wie könnte all das schrecklich schief laufen? Ich stelle mir Katastrophen vor. Und das ist schwer. Da entsteht im Kopf eine Art ständige "kognitive Dissonanz", so als ob man beim Schreiben seines Ehegelübdes gleichzeitig den Ehevertrag aufsetzt. (Gelächter) Aber man muss es tun, besonders, wenn man 500 Millionen Tweets täglich "heiratet". Was meine ich mit "ich stelle mir Katastrophen vor"? Ich versuche mir auszudenken, wie etwas so Niedliches und Unschuldiges wie ein Katzenbild zum Tode führen könnte und wie wir das verhindern können. Das ist also mein nächstes Beispiel. Das ist meine Katze Eli. Wir wollten Usern die Möglichkeit bieten, ihren Tweets Fotos beizufügen. Ein Bild sagt mehr als 1 000 Worte. Man hat nur 140 Zeichen. Wenn man seinem Tweet ein Foto beifügt, transportiert er wesentlich mehr Inhalt. Man kann viele tolle Sachen tun, indem man einem Tweet ein Foto beifügt. Mein Job ist nicht, darüber nachzudenken. Ich muss darüber nachdenken, was schief laufen könnte.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Wie könnte dieses Bild zu meinem Tod führen? Hier ist eine Möglichkeit: Das Bild zeigt mehr als nur eine Katze. Es beinhaltet auch Geodaten. Wenn man ein Bild mit dem Smartphone oder der Digitalkamera aufnimmt, gibt es eine Menge mehr Informationen, die mit dem Bild gespeichert werden. Tatsächlich beinhaltet dieses Bild ungefähr das. Genauer gesagt: das. Es ist unwahrscheinlich, dass jemand versucht, mich aufzuspüren und mir weh zu tun, aufgrund von Bilddaten eines Fotos, das ich von meiner Katze gemacht habe, aber ich muss immer das Schlimmste annehmen. Deshalb entschieden wir, als wir damit begannen, bei Fotos auf Twitter die Geodaten rauszuziehen. (Applaus) Ich gehe vom Schlimmsten aus und arbeite mich dann rückwärts. So funktionieren die Sicherheitsmaßnahmen sowohl für die erwarteten als auch für die unerwarteten Fälle.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Wenn man sich vorstellt, dass ich mir Tag und Nacht die schlimmsten Dinge ausdenke, wäre es nicht überraschend, wenn ich ein ziemlich düsteres Weltbild hätte. (Gelächter) Aber so ist es nicht. Die überwältigende Mehrheit der Interaktionen, die ich sehe, -- und ich sehe viele, glauben Sie mir -- sind positiv. Menschen verbinden sich, um zu helfen oder Informationen miteinander auszutauschen. Nur wir, die mit dieser Größenordnung arbeiten, die den Auftrag haben, Menschen zu schützen, müssen davon ausgehen, dass das Schlimmste passiert. Weil für uns eine Wahrscheinlichkeit von 1 : 1 000 000 eine ziemlich realistische Wette ist.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Vielen Dank.
Thank you.
(Applaus)
(Applause)