My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
O meu trabalho no Twitter é assegurar a confiança do utilizador, proteger os direitos do utilizador e a sua segurança, tanto de uns em relação aos outros como, por vezes, deles próprios. Vamos falar acerca do que é a escala do Twitter. Em janeiro de 2009 havia mais de dois milhões de novos "tweets", todos os dias nesta plataforma. Em janeiro de 2014, mais de 500 millhões. Víamos dois milhões de "tweets" em menos de seis minutos. Isto representa um aumento de 24 900 por cento.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
A maior parte da atividade no Twitter não representa perigo para ninguém. Não se corre qualquer risco. O meu trabalho é detetar e impedir atividades que o possam fazer. Parece simples, não é? Podem pensar que é fácil, dado que eu disse que a maior parte da atividade no Twitter não representa perigo para ninguém. Porquê perder tanto tempo à procura de possíveis calamidades em atividades inócuas? Dada a escala a que se encontra o Twitter, a hipótese de um-num-milhão acontece 500 vezes por dia. O mesmo acontece com outras empresas que lidam com este tipo de escala. Para nós, estes casos extremos, estas situações raras, que têm poucas hipóteses de acontecer, são sobretudo normas. Digamos que 99,999 por cento dos "tweets" não são perigosos para ninguém. Não representam ameaças. As pessoas podem estar a documentar locais de viagens, como o Heart Reef da Austrália, ou a falar de um concerto a que assistiram, ou a partilhar fotografias de animais bebés amorosos. Depois de pormos de lado esses 99,999 por cento, essa percentagem mínima de "tweets" que restam significam apenas uns 150 000 por mês. A simples escala daquilo com que estamos a lidar representa um desafio.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Sabem o que é que torna a minha tarefa especialmente desafiante? As pessoas fazem coisas esquisitas. (Risos) E eu tenho que tentar perceber o que é que estão a fazer, porquê, e se há ou não algum risco envolvido, quase sempre sem grande coisa em termos de contexto ou de antecedentes. Vou mostrar-vos alguns exemplos que tratei durante o meu tempo no Twitter — são exemplos reais — situações que, a princípio, pareciam normais, mas a verdade da questão era uma coisa totalmente diferente. Os pormenores foram alterados para proteger os inocentes e por vezes os culpados. Vamos começar já.
["Yo bitch"]
[Sua cadela]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Se virmos um "tweet" que apenas diz isto, podemos ficar a pensar, "Isto parece uma ofensa". Afinal, porque é que alguém gostaria de receber a mensagem, "Sua cadela"? Eu tento manter-me relativamente ao corrente das últimas tendências e modas, por isso sabia que "sua cadela" também era uma saudação vulgar entre amigos, assim como uma referência ao popular Breaking Bad. Confesso que não esperava encontrar um quarto significado. Acontece que também é usado no Twitter quando as pessoas estão a fazer o papel de cães. (Risos) E, de facto, naquele caso, não só não é ofensivo, como tecnicamente é uma saudação adequada. (Risos)
So okay, determining whether or not something is abusive without context, definitely hard.
Portanto, determinar se uma coisa é ou não ofensiva, sem qualquer contexto, é muito difícil.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Vejamos o "spam". Temos aqui um exemplo duma conta do clássico comportamento de "spam" que envia a mesmíssima mensagem a milhares de pessoas. Embora isto seja uma maqueta que eu fiz na minha conta, vemos contas a fazer isto muitas vezes. Parece muito simples. Devíamos suspender automaticamente as contas que incorrem neste tipo de comportamento. Acontece que há algumas exceções a esta regra. Acontece que a mensagem também pode ser uma notificação que assinámos para a Estação Espacial Internacional que está a passar lá em cima, porque queríamos sair à rua e ver se conseguíamos vê-la. Não vamos correr o risco de suspender a conta erradamente pensando que é "spam".
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Vamos piorar as coisas. Voltando à minha conta, que exibe de novo um comportamento clássico. Desta vez está a enviar a mesma mensagem e ligação. Isto quase sempre indica uma coisa chamada "phishing". Alguém que tenta roubar informações da conta de outra pessoa, encaminhando-a para outro "website". Obviamente, não é nada bom. Queremos, e suspendemos as contas que se envolvem neste tipo de comportamento. Então porque é que isto é tão grave? Bem, também pode ser um espetador num comício que conseguiu registar em vídeo um polícia a bater num manifestante não violento Está a tentar que o mundo saiba o que aconteceu. Não queremos correr o risco de silenciar esse discurso fundamental classificando-o como "spam" e suspendendo-o. Isto significa que avaliamos centenas de parâmetros quando observamos os comportamentos das contas e, mesmo assim, podemos enganar-nos e temos que reavaliar.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Dados os tipos de desafios que enfrento, é fundamental que eu não só preveja mas também conceba proteções para o inesperado. E isso não é uma questão apenas para mim, nem para o Twitter. É uma questão para todos nós. É uma questão para todos os que constroem ou criam algo que pensamos que vai ser espantoso e vai permitir que as pessoas façam coisas fantásticas. Então, o que é que eu faço? Faço uma pausa e penso: "Como é que tudo isto "pode correr terrivelmente mal?" Visualizo catástrofes. E é difícil. Há uma espécie de dissonância cognitiva inerente, quando fazemos isso. É como escrever os votos de casamento ao mesmo tempo que o contrato pré-nupcial. (Risos) Mas temos que o fazer, especialmente, se casamos com 500 milhões de "tweets" por dia. O que é que eu quero dizer com "visualizar catástrofes"? Tento pensar se uma coisa, tão benigna e inofensiva como a imagem de um gato, pode levar à morte e o que fazer para impedir isso. Vai ser esse o meu próximo exemplo. Este é o meu gato Eli. Quisemos dar aos utilizadores a possibilidade de juntar fotos aos seus "tweets". Uma imagem vale por mil palavras, basta juntar 140 carateres. Juntamos uma foto ao nosso "tweet". Vejam como ficamos muito mais satisfeitos. Há imensas coisas ótimas que podemos fazer juntando uma foto a um "tweet". O meu trabalho não é pensar nelas. É pensar no que pode correr mal.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Como é que esta foto pode levar à minha morte? Bem, há uma possibilidade. Há mais coisas naquela foto do que um simples gato. Há dados geográficos. Quando tiramos uma fotografia com o nosso "smartphone" ou câmara digital, há muitas informações adicionais gravadas juntamente com a imagem. De facto, esta imagem também contém o equivalente a isto, mais especificamente, a isto. Claro, não é provável que alguém vá tentar localizar-me, e fazer-me mal com base em dados de uma imagem associada a uma foto que eu tirei ao gato. Mas parto do princípio que acontece o pior. Foi por isso que, quando publicámos fotos no Twitter, tomámos a decisão de eliminar os dados geográficos. (Aplausos) Se eu começar por assumir o pior e trabalhar daí para trás. tenho a certeza de que as proteções que construímos funcionam para os casos esperados e inesperados.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Dado que passo os dias e as noites a imaginar o pior que pode acontecer, não seria de admirar que a perspetiva que tenho do mundo fosse sombria. (Risos) Mas não é. A grande maioria das interações que vejo — e vejo muitas, acreditem — são positivas, pessoas que se dispõem a ajudar, a passar ou partilhar informações umas com as outras. É só porque, para nós que lidamos com a escala, para nós que temos a tarefa de manter as pessoas em segurança. temos que assumir que acontece o pior, porque, para nós, uma hipótese de um-num-milhão é uma possibilidade bastante boa.
Thank you.
Obrigada.
(Applause)
(Aplausos)