My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
O que eu faço no Twitter é garantir a confiança dos usuários, proteger seus direitos e mantê-los a salvo, tanto uns dos outros quanto, às vezes, deles mesmos. Vamos falar sobre como é a escala no Twitter. Em Janeiro de 2009, vimos mais de dois milhões de novos tuítes a cada dia nessa plataforma. Em Janeiro de 2014, tivemos mais de 500 milhões. Vimos dois milhões de tuítes em menos de seis minutos. É um aumento de 24.900%.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Agora, a grande maioria da atividade no Twitter não causa problemas a ninguém. Não envolve risco. Meu trabalho é perceber e evitar atividades que possam causar problemas. Parece bastante simples, certo? Vocês talvez achem que é fácil, porque agora mesmo eu disse que a atividade mais intensa no Twitter não causa problemas. Para que gastar tanto tempo procurando calamidades em potencial em meio a atividades inofensivas? Pela escala do Twitter, uma chance em um milhão ocorre 500 vezes por dia. É a mesma de outras companhias que lidam com este tipo de escala. Para nós, os casos extremos, como essas situações raras, que nunca vão ocorrer, estão mais para uma rotina. Digamos que 99,999% dos tuítes não sejam um risco para ninguém. Não representam uma ameaça. Talvez as pessoas estejam documentando suas viagens como o coração da Barreira de Corais da Austrália, ou tuitando sobre o show em que estão, ou estejam compartilhando fotos de bichinhos fofinhos. Excluindo esses 99,999%, aquela porcentagem mínima de tuítes restantes chega a, aproximadamente, 150.000 por mês. A enorme escala com que estamos lidando é um desafio.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Sabem o que faz o meu trabalho ser particularmente desafiador? As pessoas fazem coisas esquisitas. (Risos) E eu tenho de entender o que elas estão fazendo, se há ou não um risco envolvido e por quê, geralmente sem ter muita noção em termos de contexto ou de situação. Vou mostrar alguns exemplos do que eu já encontrei durante meu tempo no Twitter -- estes são exemplos reais — de situações que, a princípio, pareciam moleza, mas, na verdade, a questão era uma coisa completamente diferente. Os detalhes foram mudados para proteger os inocentes e, em alguns casos, os culpados Vamos pegar leve para começar.
["Yo bitch"]
["E aí, vadia"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Se você visse um tuíte que só dissesse isso, você poderia pensar: "Parece ser um abuso." Afinal, por que você iria querer receber uma mensagem assim, "E aí, vadia"? Agora, eu tento estar relativamente ligada nas últimas modas e memes, então eu sabia que o "e aí, vadia" também era um cumprimento comum entre amigos, além de ser uma referência popular ao "Breaking Bad". Tenho de admitir que eu não estava esperando encontrar um quarto caso. Acabou que também é usado no Twitter quando as pessoas estão brincando de cachorrinho. (Risos) E, na verdade, nesse caso, não só não era abuso, como, tecnicamente, é também um cumprimento muito adequado. (Risos)
So okay, determining whether or not something is abusive without context, definitely hard.
Então, certo, determinar se algo é ou não é abusivo, sem ter um contexto, é definitivamente difícil.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Consideremos os "spams". Este é um exemplo de uma conta com um comportamento de "spammer" clássico, mandando exatamente a mesma mensagem a milhares de pessoas. Apesar de ser um exemplo que eu fiz usando a minha conta, vemos contas fazendo isso o tempo todo. Parece fácil de resolver. Deveríamos apenas suspender automaticamente as contas que apresentam este comportamento. Acontece que há algumas exceções à essa regra. Pois pode ser que a mensagem seja uma notificação de que você assinou para saber quando a Estação Espacial Internacional estiver passando, porque você pretende sair e ver se a enxerga. Você não vai ter essa chance se, por um erro, suspendermos a conta
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
pensando que se trata de "spam". Certo. Vamos parar de brincar. De volta à minha conta, de novo exibindo comportamente clássico. Desta vez, mandando a mesma mensagem com "link". Costuma ser uma sinal de uma coisa chamada "phishing", alguém que tenta roubar as informações da conta de outra pessoas, levando-as a outro "site". Bem óbvio que não é coisa boa. Queremos e nos esforçamos para supender contas que se envolvem nessa atividade. Por que, então, isto complica as coisas? Bom, pode ser um simples passante que conseguiu gravar um vídeo de um policial agredindo um protestante pacífico e está tentando deixar o mundo saber o que está acontecendo. Nós não queremos apostar na chance potencial de silenciar aquela mensagem crucial por classificá-la como "spam" e suspender a conta. Significa que avaliamos centenas de parâmetros, quando observamos o comportamento das contas, e, mesmo assim, ainda podemos entender errado
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
e ter de reconsiderar. Agora, com os tipos de desafios que enfrento, é essencial que eu não só antecipe, mas também desenvolva proteções contra o inesperado. E este não é um trabalho só para mim, ou para o Twitter, mas para vocês. É um trabaho para todos que estão construindo ou criando algo que acham que será incrível e que permitirá que as pessoas façam coisas incríveis. Então, que fazer? Eu paro e penso: "Como tudo isto poderia dar terrivelmente errado?" Eu visualizo a catástofre. E é duro. Há meio que uma dissonância cognitiva inerente a fazer isso, como quando você escreve seus votos de casamento ao mesmo tempo em que o acordo pré-nupcial. (Risos) Mas ainda assim você tem de fazer, principalmente se você se casa com 500 milhões de tuítes por dia. O que eu quero dizer com "visualizar catástrofre"? Eu tento pensar em como algo, digamos, benigno e inocente como a foto de um gato pode causar a morte de alguém, e em o que fazer para evitar que aconteça. Aliás, esse é meu próximo exemplo. Este é meu gato, Eli. Queríamos dar aos usuários a capacidade de adicionar fotos aos tuítes. Um imagem vale mais que mil palavras. Você só tem 140 caracteres. Com uma foto no seu tuíte, olha quanto conteúdo você tem. Há montes de coisas ótimas que você pode fazer adicionando uma foto a um tuíte. Meu trabalho é pensar nelas.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
É pensar o que poderia dar errado. Como esta imagem poderia me matar? Bom, temos aqui uma possibilidade. Há mais coisa na foto do que só um gato. Há dados geográficos. Quando você tira uma foto no "smartphone" ou numa câmera digital, há várias informações adicionais salvas com a imagem. Na verdade, esta imagem contém o equivalente a isto, mais especificamente, a isto. Claro, é improvável que alguém vá tentar me localizar e me fazer mal, apenas pelos dados associados à imagem, com a foto que tirei do meu gato, mas parto do princípio de que o pior vai acontecer. É por isso que, quando lançamos as fotos no Twitter, decidimos remover os dados geográficos delas. (Aplausos) Se começo imaginando o pior e trabalho retroativamente, posso assegurar que as proteções que construímos funcionem nos casos esperados e também nos inesperados.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Levando em conta que passo dia e noite imaginando o pior que pode acontecer, não seria de surpreender se minha visão de mundo fosse meio macabra. (Risos) Não é. A maioria esmagadora das interações que eu observo -- e eu vejo um monte, acreditem -- são positivas: pessoas oferecendo ajuda ou se conectando, ou compartilhando informações umas com as outras. Só que, para aqueles que lidam com a escala, para nós que temos a tarefa de manter as pessoas seguras, precisamos imaginar que o pior vai acontecer, porque, para nós, uma chance em um milhão é uma chance bem grande.
Thank you.
Obrigada.
(Applause)
(Aplausos)