My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Mi trabajo en Twitter es asegurar la confianza del usuario, proteger sus derechos y mantener la seguridad de unos respecto de otros y, a veces, de sí mismos. Veamos qué es la escala para Twitter. En enero de 2009, vimos más de 2 millones de tuits por día en la plataforma. En enero de 2014, más de 500 millones. Vimos 2 millones de tuits en menos de 6 minutos. Es un crecimiento del 24 900 %.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Ahora, la gran mayoría de la actividad en Twitter no pone a nadie en peligro. No hay riesgo en esto. Mi trabajo consiste en prevenir o erradicar la actividad potencialmente peligrosa. Suena fácil, ¿no? Quizá piensen que es fácil, dado que acabo de decir que la gran mayoría de la actividad en Twitter no pone a nadie en peligro. ¿Por qué pasar tanto tiempo buscando posibles calamidades en actividades inocuas? Dada la escala que tiene Twitter, una probabilidad en un millón ocurre 500 veces al día. Lo mismo ocurre en otras empresas que tienen esta escala. Para nosotros, los casos límite, esas situaciones raras que difícilmente ocurren, son la norma. Digamos que el 99,999 % de los tuits no supone riesgo para nadie. No hay ninguna amenaza. Quizá la gente documenta hitos de los viajes como el corazón de Coral de Australia, o tuitear sobre un concierto al que están asistiendo, o compartir fotos de lindas crías de animales. Al quitar ese 99,999 %, ese pequeño porcentaje de tuits restantes se reduce a más o menos 150 000 por mes. La magnitud de mensajes procesados es en sí un desafío.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
¿Saben que otra cosa hace a mi trabajo particularmente desafiante? La gente hace cosas extrañas. (Risas) Y yo debo entender qué están haciendo, por qué y si eso implica o no riesgo, a menudo sin mucho contexto ni trasfondo. Les mostraré algunos ejemplos que encontré durante mi trabajo en Twitter -- son ejemplos reales -- de situaciones que en principio parecían obvias, pero que en realidad era algo totalmente diferente. Se cambiaron los detalles para proteger al inocente y a veces al culpable. Empezaremos con algo simple.
["Yo bitch"]
["Tú, perra"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Si uno ve un tuit que solo dice esto, uno puede pensar, "Parece abuso". Después de todo, ¿por qué querrías recibir el mensaje "Tú, perra". Pero yo trato de estar al tanto de las tendencias y los últimos memes, por eso sabía que "tú, perra" a menudo era un saludo común entre amigos, así como una referencia popular de "Breaking Bad". Tengo que admitir que no esperaba encontrar un cuarto uso. Resulta que también se usa en Twitter cuando la gente hace el papel de perros. (Risas) Y de hecho, en ese caso, no solo no es abusivo, técnicamente es un saludo apropiado. (Risas)
So okay, determining whether or not something is abusive without context, definitely hard.
Por eso determinar si algo es o no abusivo sin tener contexto, sin duda es difícil.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Veamos el spam. Este es el ejemplo de una cuenta que participó en una conducta clásica de spam, enviando exactamente el mismo mensaje a miles de personas. Si bien este es un ejemplo que hice con mi cuenta, vemos cuentas que hacen esto todo el tiempo. Parece bastante simple. Deberíamos suspender automáticamente las cuentas que tienen este comportamiento. Pero resulta que hay excepciones a la regla. Puede que ese mensaje podría ser una suscripción a una notificación que indica si la Estación Espacial está pasando por encima porque uno quería salir y tratar de verla. No tendrán esa oportunidad si suspendemos la cuenta por error pensando que es spam.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Bien, subamos la apuesta. Volvamos a mi cuenta, veamos el comportamiento clásico. Esta vez se está enviando el mismo mensaje y enlace. A menudo es indicativo de algo llamado <i>phishing</i>, alguien que trata de robar la información de la cuenta de otra persona redirigiéndolos a otro sitio web. Eso claramente no es algo bueno. Queremos hacerlo, lo hacemos, suspendemos las cuentas que tienen ese comportamiento. ¿Por qué los riesgos son más altos en este caso? Bueno, también podría ser un espectador en un mitin que grabó un video de un oficial de policía que golpea a un manifestante no violento que trata de contarle al mundo lo que ocurre. No queremos participar potencialmente silenciando ese discurso crucial tildándolo de spam y suspendiéndolo. Eso significa que evaluamos cientos de parámetros al analizar el comportamiento de las cuentas y aún así, todavía podemos equivocarnos y tenemos que volver a evaluar.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Ahora, dado los desafíos que enfrentamos es crucial no solo predecir sino también diseñar protecciones para lo inesperado. Y eso no solo es un problema para mí, o para Twitter, es un problema para Uds. Es un problema para cualquiera que esté construyendo o creando algo que uno cree que será increíble y le permitirá a la gente hacer cosas impresionantes. Entonces ¿qué hago? Me detengo y pienso, ¿cómo podría todo esto terminar muy mal? Visualizo la catástrofe. Y eso es difícil. Hay una especie de disonancia cognitiva en esto, como cuando estás declarando los votos matrimoniales y al mismo tiempo el acuerdo prenupcial. (Risas) Y aún así hay que hacerlo, sobre todo si te estás casando con 500 millones de tuits por día. ¿A qué me refiero con "visualizo la catástrofe"? Trato de pensar cómo algo tan benigno e inocuo como la foto de un gato podría llevar a la muerte, y qué hacer para evitarlo. Que resulta ser mi siguiente ejemplo. Este es mi gato, Eli. Queríamos darle a los usuarios la posibilidad de agregar fotos a sus tuits. Una foto vale más que mil palabras. Solo tienes 140 caracteres. Agregas una foto al tuit, y mira cuánto más contenido tienes ahora. Pueden hacerse grandes cosas al agregar una foto a un tuit. Mi trabajo no es pensar en eso. Es pensar qué puede terminar mal.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
¿Cómo esta imagen puede llevarme a la muerte? Bueno, esta es una posibilidad. Hay mucho más que un gato en esa foto. Hay información geográfica. Cuando tomas una foto con tu móvil o con tu cámara digital hay mucha información adicional guardada junto con esa imagen. De hecho, esta imagen también contiene el equivalente a esto, más específicamente, esto. Seguro, no es probable que alguien trate de localizarme y hacerme daño basado en los datos asociados a la foto que le tomé a mi gato, pero empiezo suponiendo que ocurrirá lo peor. Por eso, cuando lanzamos las fotos en Twitter, tomamos la decisión de quitar los datos geográficos. (Aplausos) Si empiezo suponiendo lo peor y voy hacia atrás, puedo asegurar que las protecciones que construimos funcionan para los casos esperados y para los inesperados.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Dado que paso días y noches imaginando lo peor que podría suceder, no sería de extrañar que mi visión del mundo sea sombría. (Risas) No lo es. La gran mayoría de las interacciones que veo -- y veo muchas, créanme -- son positivas, personas que tratan de ayudar o de conectarse o de compartir información con otros. Solo nosotros, los que trabajamos con grandes volúmenes, los que trabajamos en la seguridad de las personas, los que tenemos que suponer lo peor, porque para nosotros, una posibilidad en un millón es una posibilidad bastante buena.
Thank you.
Gracias.
(Applause)
(Aplausos)