I spent the past three years talking to some of the worst people on the internet. Now, if you've been online recently, you may have noticed that there's a lot of toxic garbage out there: racist memes, misogynist propaganda, viral misinformation. So I wanted to know who was making this stuff. I wanted to understand how they were spreading it. Ultimately, I wanted to know what kind of impact it might be having on our society. So in 2016, I started tracing some of these memes back to their source, back to the people who were making them or who were making them go viral. I'd approach those people and say, "Hey, I'm a journalist. Can I come watch you do what you do?" Now, often the response would be, "Why in hell would I want to talk to some low-t soy-boy Brooklyn globalist Jew cuck who's in cahoots with the Democrat Party?"
Passei os últimos três anos a falar com as piores pessoas da Internet. Quem anda por lá, ultimamente, deve ter reparado que existe imenso lixo tóxico. 'Memes' racistas, propaganda misógina, desinformações virais. E eu queria saber quem fazia estas coisas. Queria entender como se espalhavam. Por fim, queria saber que tipo de impacto poderiam ter na nossa sociedade. Em 2016, comecei a seguir estes 'memes' até à sua origem, até aos seus criadores ou a quem os tornasse virais. Contactava as pessoas e dizia: "Viva, sou jornalista. Posso ver o que fazes?" Normalmente levava com: "Por que raio quereria eu falar "com um mariquinhas judeu de Brooklyn "que anda metido no Partido Democrático?"
(Laughter)
(Risos)
To which my response would be, "Look, man, that's only 57 percent true."
E eu respondia: "Pá, só tens razão em 57%.
(Laughter)
(Risos)
But often I got the opposite response. "Yeah, sure, come on by." So that's how I ended up in the living room of a social media propagandist in Southern California. He was a married white guy in his late 30s. He had a table in front of him with a mug of coffee, a laptop for tweeting, a phone for texting and an iPad for livestreaming to Periscope and YouTube. That was it. And yet, with those tools, he was able to propel his fringe, noxious talking points into the heart of the American conversation.
Mas também recebia outras respostas. "Claro, passa por aqui". E foi assim que cheguei à sala de estar de um propagandista das redes sociais da Califórnia do Sul. Ele era um caucasiano casado, na casa dos trinta. Tinha uma mesinha à sua frente com uma chávena de café, um portátil de onde 'tweetava', um telemóvel para SMS e um iPad para fazer diretos para o Periscope e o YouTube. Mais nada. E só com aquilo ele era capaz de incutir as suas opiniões nocivas e marginais numa típica conversa americana.
For example, one of the days I was there, a bomb had just exploded in New York, and the guy accused of planting the bomb had a Muslim-sounding name. Now, to the propagandist in California, this seemed like an opportunity, because one of the things he wanted was for the US to cut off almost all immigration, especially from Muslim-majority countries. So he started livestreaming, getting his followers worked up into a frenzy about how the open borders agenda was going to kill us all and asking them to tweet about this, and use specific hashtags, trying to get those hashtags trending. And tweet they did -- hundreds and hundreds of tweets, a lot of them featuring images like this one.
Por exemplo, num dos dias que lá estive, uma bomba explodira em Nova Iorque e a pessoa que fora acusada tinha um nome que parecia muçulmano. Parecia uma oportunidade para o propagandista da Califórnia porque uma das coisas que ele queria era que os EUA impedissem quase toda a imigração, especialmente de países muçulmanos. Então, ele começou um direto. Fez com que os seus seguidores fizessem um tumulto sobre como o plano das fronteiras abertas nos iria matar e pediu-lhes que 'tweetassem' e usassem certas 'hashtags' para que elas ficassem no topo. E lá 'tweetaram'... Centenas e centenas de 'tweets'. Muitos deles com imagens como esta.
So that's George Soros. He's a Hungarian billionaire and philanthropist, and in the minds of some conspiracists online, George Soros is like a globalist bogeyman, one of a few elites who is secretly manipulating all of global affairs. Now, just to pause here: if this idea sounds familiar to you, that there are a few elites who control the world and a lot of them happen to be rich Jews, that's because it is one of the most anti-Semitic tropes in existence. I should also mention that the guy in New York who planted that bomb, he was an American citizen. So whatever else was going on there, immigration was not the main issue.
Este é George Soros. É um multimilionário e filantropo húngaro, que, na ideia de alguns conspiradores 'online', Soros é como se fosse um papão globalista que secretamente manipula todos os assuntos mundiais. Antes de mais, se isto vos soa familiar, esta ideia de algumas elites controlarem o mundo e de muitas delas serem judeus ricos, é porque é uma das generalizações mais antissemitas que existem. Também devo dizer que quem colocou a bomba em Nova Iorque foi um cidadão americano. De tudo o que lá acontecia, a imigração não era o principal problema.
And the propagandist in California, he understood all this. He was a well-read guy. He was actually a lawyer. He knew the underlying facts, but he also knew that facts do not drive conversation online. What drives conversation online is emotion.
E o propagandista da Califórnia percebia perfeitamente. Ele tinha cultura. Aliás, era advogado. Ele conhecia os factos essenciais, mas também sabia quais os que não criavam uma conversa 'online'. O que cria conversas 'online' é a emoção.
See, the original premise of social media was that it was going to bring us all together, make the world more open and tolerant and fair ... And it did some of that. But the social media algorithms have never been built to distinguish between what's true or false, what's good or bad for society, what's prosocial and what's antisocial. That's just not what those algorithms do. A lot of what they do is measure engagement: clicks, comments, shares, retweets, that kind of thing. And if you want your content to get engagement, it has to spark emotion, specifically, what behavioral scientists call "high-arousal emotion."
O objetivo inicial das redes sociais era o de juntar as pessoas, tornar o mundo num lugar mais tolerante e justo... E isso aconteceu em parte. Mas os algoritmos das redes sociais não foram construídos para distinguir a verdade da mentira, o que é bom ou mau para a sociedade e distinguir o pró-social do antissocial. Não é isso que os algoritmos fazem. O que costumam fazer é medir as interações: cliques, comentários, partilhas, 'retweets' e coisas do género. E se quisermos que o nosso conteúdo seja interativo, então temos de incentivar a emoção. Mais concretamente a chamada "excitação emocional".
Now, "high arousal" doesn't only mean sexual arousal, although it's the internet, obviously that works. It means anything, positive or negative, that gets people's hearts pumping. So I would sit with these propagandists, not just the guy in California, but dozens of them, and I would watch as they did this again and again successfully, not because they were Russian hackers, not because they were tech prodigies, not because they had unique political insights -- just because they understood how social media worked, and they were willing to exploit it to their advantage.
"Excitação" não tem apenas uma conotação sexual, mas, como estamos na Internet, dá para tudo. É algo, positivo ou negativo, que deixa as pessoas entusiasmadas. Eu sentava-me com os propagandistas. Não era só o da Califórnia, eram umas dezenas deles, e eu via-os a ter um sucesso repetido no que faziam. Não era por serem 'hackers' russos, ou peritos em computadores, ou por terem opiniões políticas particulares. Era por saberem como funcionam as redes sociais e terem vontade de tirarem proveito disso.
Now, at first I was able to tell myself this was a fringe phenomenon, something that was relegated to the internet. But there's really no separation anymore between the internet and everything else. This is an ad that ran on multiple TV stations during the 2018 congressional elections, alleging with very little evidence that one of the candidates was in the pocket of international manipulator George Soros, who is awkwardly photoshopped here next to stacks of cash. This is a tweet from the President of the United States, alleging, again with no evidence, that American politics is being manipulated by George Soros. This stuff that once seemed so shocking and marginal and, frankly, just ignorable, it's now so normalized that we hardly even notice it.
Primeiro, pensei que fosse um fenómeno específico, algo que estava circunscrito à Internet. Mas já não há uma linha a separar a Internet de tudo o resto. Este anúncio passou em vários canais de TV, durante as eleições para o Congresso de 2018, e alegava, com poucas provas, que um dos candidatos era controlado pelo manipulador internacional George Soros, numa péssima fotomontagem ao pé de maços de notas. Este é um 'tweet' do presidente dos EUA que alegava, sem qualquer prova, que os políticos americanos eram manipulados por George Soros. Algo que outrora era chocante, insignificante e ignorável, é agora tão sistematizado que quase não reparamos.
So I spent about three years in this world. I talked to a lot of people. Some of them seemed to have no core beliefs at all. They just seemed to be betting, perfectly rationally, that if they wanted to make some money online or get some attention online, they should just be as outrageous as possible. But I talked to other people who were true ideologues. And to be clear, their ideology was not traditional conservatism. These were people who wanted to revoke female suffrage. These were people who wanted to go back to racial segregation. Some of them wanted to do away with democracy altogether. Now, obviously these people were not born believing these things. They didn't pick them up in elementary school. A lot of them, before they went down some internet rabbit hole, they had been libertarian or they had been socialist or they had been something else entirely. So what was going on?
Por isso mesmo, passei três anos neste mundo. Falei com imensa gente. Alguns nem sequer tinham crenças principais de todo. Apenas apostavam, de forma racional que, se quisessem ganhar dinheiro ou obter atenção 'online', deveriam ser o mais escandalosos possível. Mas também falei com verdadeiros ideólogos. E antes de mais, não eram os típicos conservadores. Eram pessoas que queriam acabar com o sufrágio feminino. Que queriam voltar aos tempos da segregação racial. Alguns até queriam abolir a democracia. É óbvio que estas pessoas não nasceram com estas crenças. Não as aprenderam na escola primária. Muitos deles, antes de entrarem na Internet, eram libertários, eram socialistas, eram qualquer outra coisa. Mas então o que se passava?
Well, I can't generalize about every case, but a lot of the people I spoke to, they seem to have a combination of a high IQ and a low EQ. They seem to take comfort in anonymous, online spaces rather than connecting in the real world. So often they would retreat to these message boards or these subreddits, where their worst impulses would be magnified. They might start out saying something just as a sick joke, and then they would get so much positive reinforcement for that joke, so many meaningless "internet points," as they called it, that they might start believing their own joke.
Eu não posso generalizar todos os casos, mas muita da gente com quem falei parecia ter um QI elevado e baixa inteligência emocional. Parecia que sentiam mais conforto em espaços 'online' anónimos, do que na vida real. Refugiavam-se em fóruns, ou em 'subreddits', onde os seus piores impulsos eram amplificados. Podiam começar por uma simples piada de mau gosto, mas como recebiam imensa validação pela piada, ou "pontos da Internet" inúteis, como lhe chamavam, começavam a acreditar na sua própria piada.
I talked a lot with one young woman who grew up in New Jersey, and then after high school, she moved to a new place and suddenly she just felt alienated and cut off and started retreating into her phone. She found some of these spaces on the internet where people would post the most shocking, heinous things. And she found this stuff really off-putting but also kind of engrossing, kind of like she couldn't look away from it. She started interacting with people in these online spaces, and they made her feel smart, they made her feel validated. She started feeling a sense of community, started wondering if maybe some of these shocking memes might actually contain a kernel of truth. A few months later, she was in a car with some of her new internet friends headed to Charlottesville, Virginia, to march with torches in the name of the white race. She'd gone, in a few months, from Obama supporter to fully radicalized white supremacist.
Falei imenso com uma jovem que cresceu em Nova Jérsia. Depois do secundário, mudou de cidade e começou a sentir-se alienada e ignorada e começou a refugiar-se no telemóvel. Ela encontrou alguns espaços na Internet, onde as pessoas publicavam as coisas mais execráveis. E ela achava essas coisas desconcertantes, mas também intrigantes, como se não pudesse parar de as ver. Começou a interagir com pessoas destes espaços, e elas fizeram-na sentir-se inteligente e validada. Começou a sentir-se numa comunidade e a perguntar-se se alguns daqueles 'memes' polémicos tinham um pingo de verdade. Meses depois, ela ia de carro com amigos da Internet a caminho de Charlottesville, na Virgínia, para marchar de tocha em punho em nome da raça branca. Em poucos meses, ela passou de apoiante do Obama a defensora da supremacia branca, completamente radicalizada.
Now, in her particular case, she actually was able to find her way out of the cult of white supremacy. But a lot of the people I spoke to were not. And just to be clear: I was never so convinced that I had to find common ground with every single person I spoke to that I was willing to say, "You know what, man, you're a fascist propagandist, I'm not, whatever, let's just hug it out, all our differences will melt away." No, absolutely not. But I did become convinced that we cannot just look away from this stuff. We have to try to understand it, because only by understanding it can we even start to inoculate ourselves against it.
No caso dela, ela conseguiu sair desse culto da supremacia branca. Mas muitos com quem falei não conseguiram. Só para esclarecer: Eu nunca estive convencido de ter de encontrar um terreno comum com toda a gente com quem falava, ao ponto de estar disposto a dizer: "Pá, sabes que mais? És um propagandista fascista. Eu não. "Vamos mas é dar um abraço e esquecer as nossas diferenças." É claro que não. Mas fiquei convencido de que não podemos ignorar estas coisas. Temos de tentar compreendê-las porque, só por aí, é que nos conseguimos vacinar contra isso.
In my three years in this world, I got a few nasty phone calls, even some threats, but it wasn't a fraction of what female journalists get on this beat. And yeah, I am Jewish, although, weirdly, a lot of the Nazis couldn't tell I was Jewish, which I frankly just found kind of disappointing.
Nos três anos que estive neste mundo recebi chamadas horríveis, algumas ameaças, mas não foi nada, em comparação com o que as jornalistas aguentam. E sim, sou judeu. Mas, por mais estranho que pareça, muitos nazis não repararam nisso, o que me deixou desapontado.
(Laughter)
(Risos)
Seriously, like, your whole job is being a professional anti-Semite. Nothing about me is tipping you off at all? Nothing?
Francamente, se a tua profissão é ser um antissemita profissional, não vês nada de estranho? Nadinha, mesmo?
(Laughter)
(Risos)
This is not a secret. My name is Andrew Marantz, I write for "The New Yorker," my personality type is like if a Seinfeld episode was taped at the Park Slope Food Coop. Nothing?
Isto não é segredo. Chamo-me Andrew Marantz, escrevo para o "The New Yorker", a minha personalidade é a de um episódio do "Seinfeld" gravado no Park Slope Food Coop. Não notas nada?
(Laughter)
(Risos)
Anyway, look -- ultimately, it would be nice if there were, like, a simple formula: smartphone plus alienated kid equals 12 percent chance of Nazi. It's obviously not that simple. And in my writing, I'm much more comfortable being descriptive, not prescriptive. But this is TED, so let's get practical. I want to share a few suggestions of things that citizens of the internet like you and I might be able to do to make things a little bit less toxic.
Em última instância, seria ótimo se houvesse uma fórmula simples. Telemóvel mais puto alienado dá 12% de hipótese de ser nazi. Mas é óbvio que não é tão simples. Aliás, nos meus artigos, gosto mais de ser descritivo do que normativo. Mas como estamos na TED, vamos ser práticos. Gostaria de vos partilhar sugestões de coisas que cidadãos da Internet como nós todos podem fazer para tornar o ambiente menos tóxico.
So the first one is to be a smart skeptic. So, I think there are two kinds of skepticism. And I don't want to drown you in technical epistemological information here, but I call them smart and dumb skepticism. So, smart skepticism: thinking for yourself, questioning every claim, demanding evidence -- great, that's real skepticism.
A primeira é a de ser-se um cético sagaz. Para mim há dois tipos de ceticismo. E para não vos encher de informações epistemológicas, vou chamar-lhes ceticismo sagaz e ceticismo parvo. Ceticismo sagaz: É pensar por si mesmo, questionar todas as alegações, exigir provas... Isso é que é ceticismo a sério.
Dumb skepticism: it sounds like skepticism, but it's actually closer to knee-jerk contrarianism. Everyone says the earth is round, you say it's flat. Everyone says racism is bad, you say, "I dunno, I'm skeptical about that." I cannot tell you how many young white men I have spoken to in the last few years who have said, "You know, the media, my teachers, they're all trying to indoctrinate me into believing in male privilege and white privilege, but I don't know about that, man, I don't think so." Guys -- contrarian white teens of the world -- look: if you are being a round earth skeptic and a male privilege skeptic and a racism is bad skeptic, you're not being a skeptic, you're being a jerk.
Ceticismo parvo: soa a ceticismo, mas parece que é para ser só do contra. Todos dizem que a Terra é redonda; alguém diz que é plana. Todos dizem que o racismo é mau; alguém diz: "Pá, sei lá, duvido muito." Nem vos passa pela cabeça o número de rapazes brancos que me disseram, nos últimos anos: "É que sabes, os 'media', os professores querem fazer-me acreditar" "no privilégio masculino e caucasiano," "mas eu sei lá, meu, não me parece." Atenção, homens e adolescentes brancos do contra, escutem: Se vão duvidar da forma da Terra, dos privilégios masculinos, e de o racismo ser mau, vocês não estão a ser céticos, estão a ser parvos.
(Applause)
(Aplausos)
It's great to be independent-minded, we all should be independent-minded, but just be smart about it.
É ótimo ter um espírito independente. Devíamos todos ter espíritos independentes, mas sejamos racionais.
So this next one is about free speech. You will hear smart, accomplished people who will say, "Well, I'm pro-free speech," and they say it in this way that it's like they're settling a debate, when actually, that is the very beginning of any meaningful conversation. All the interesting stuff happens after that point. OK, you're pro-free speech. What does that mean? Does it mean that David Duke and Richard Spencer need to have active Twitter accounts? Does it mean that anyone can harass anyone else online for any reason? You know, I looked through the entire list of TED speakers this year. I didn't find a single round earth skeptic. Is that a violation of free speech norms? Look, we're all pro-free speech, it's wonderful to be pro-free speech, but if that's all you know how to say again and again, you're standing in the way of a more productive conversation.
A próxima é sobre liberdade de expressão. Ouvimos pessoas inteligentes dizer que são a favor disso, e dizem-no como se estivessem a apaziguar um debate, quando, na verdade, é apenas o início de uma conversa profunda. Tudo o que é interessante acontece depois disso. "És a favor da liberdade de expressão Mas o que é isso?" Quer dizer que o David Duke e o Richard Spencer têm de ser ativos no Twitter? Quer dizer que todos podem assediar todos 'online', sem razão aparente? Sabem, fui ver a lista de oradores da TED deste ano. Não achei ninguém que duvidasse da forma da Terra. Isso viola as normas da liberdade de expressão? É ótimo ser-se a favor da liberdade de expressão mas, se só sabemos dizer isso, e o repetimos vezes sem conta, estamos a bloquear uma conversa produtiva.
Making decency cool again, so ... Great!
Pôr a decência na moda outra vez... Fantástico!
(Applause)
(Aplausos)
Yeah. I don't even need to explain it. So in my research, I would go to Reddit or YouTube or Facebook, and I would search for "sharia law" or I would search for "the Holocaust," and you might be able to guess what the algorithms showed me, right? "Is sharia law sweeping across the United States?" "Did the Holocaust really happen?" Dumb skepticism. So we've ended up in this bizarre dynamic online, where some people see bigoted propaganda as being edgy or being dangerous and cool, and people see basic truth and human decency as pearl-clutching or virtue-signaling or just boring. And the social media algorithms, whether intentionally or not, they have incentivized this, because bigoted propaganda is great for engagement. Everyone clicks on it, everyone comments on it, whether they love it or they hate it. So the number one thing that has to happen here is social networks need to fix their platforms.
Nem tenho de explicar. Durante a minha pesquisa, ia ao Reddit, ao YouTube ou ao Facebook e pesquisava "lei da Sharia", ou pesquisava "holocausto". Adivinham o que os algoritmos me mostravam? "A lei da Sharia está a espalhar-se pelos EUA?" "Será que o holocausto aconteceu?" Ceticismo parvo. Acabámos nesta dinâmica 'online' bizarra, onde algumas pessoas veem propaganda fanática como sendo radical, perigosa e fixe, e outras pessoas veem a verdade e a decência humana como algo hipócrita, ou simplesmente enfadonho. E os algoritmos das redes sociais, sejam intencionais ou não, incentivaram a isto, porque a propaganda fanática é ótima para a interação. Todos clicam, todos comentam, quer gostem ou não. Por isso a principal coisa que tem de acontecer é as redes sociais corrigirem as suas plataformas.
(Applause)
(Aplausos)
So if you're listening to my voice and you work at a social media company or you invest in one or, I don't know, own one, this tip is for you. If you have been optimizing for maximum emotional engagement and maximum emotional engagement turns out to be actively harming the world, it's time to optimize for something else.
A todos que ouvirem isto e trabalharem numa empresa duma rede social, ou investiram numa, ou sejam donos de uma: esta dica é para vocês. Se andaram a melhorar em prol de interações emocionais e isso acabou por prejudicar o mundo, então está na altura de melhorar outra coisa qualquer.
(Applause)
(Aplausos)
But in addition to putting pressure on them to do that and waiting for them and hoping that they'll do that, there's some stuff that the rest of us can do, too. So, we can create some better pathways or suggest some better pathways for angsty teens to go down. If you see something that you think is really creative and thoughtful and you want to share that thing, you can share that thing, even if it's not flooding you with high arousal emotion. Now that is a very small step, I realize, but in the aggregate, this stuff does matter, because these algorithms, as powerful as they are, they are taking their behavioral cues from us.
Mas para além de os pressionar a melhorar e esperar que, de facto, eles façam alguma coisa, nós também podemos fazer outras coisas. Podemos criar ou sugerir melhores caminhos que os jovens temperamentais possam percorrer. Se virem algo que achem que seja criativo ou atencioso e querem partilhá-lo, podem fazê-lo, mesmo que não vos encha de excitação emocional. É um passo pequeno, eu sei, mas no cômputo geral estas coisas são importantes, porque estes algoritmos, por mais poderosos que sejam, são influenciados por nós.
So let me leave you with this. You know, a few years ago it was really fashionable to say that the internet was a revolutionary tool that was going to bring us all together. It's now more fashionable to say that the internet is a huge, irredeemable dumpster fire. Neither caricature is really true. We know the internet is just too vast and complex to be all good or all bad. And the danger with these ways of thinking, whether it's the utopian view that the internet will inevitably save us or the dystopian view that it will inevitably destroy us, either way, we're letting ourselves off the hook. There is nothing inevitable about our future. The internet is made of people. People make decisions at social media companies. People make hashtags trend or not trend. People make societies progress or regress. When we internalize that fact, we can stop waiting for some inevitable future to arrive and actually get to work now.
Deixo-vos com o seguinte: Há uns anos estava na moda dizer que a Internet era uma ferramenta revolucionária que nos iria juntar a todos. Agora está na moda dizer que a Internet não passa de uma lixeira irrecuperável. Ambas as caricaturas são falsas. Sabemos bem que a Internet é tão grande e complexa que não pode ser só boa ou só má. O perigo destas formas de pensar, quer seja a visão utópica de que nos vai salvar, inevitavelmente ou a visão distópica de que nos vai destruir, inevitavelmente deixa-nos sair impunes, na mesma. Não há nada inevitável no nosso futuro. A Internet é constituída por pessoas. As pessoas tomam decisões nas empresas de redes sociais. As pessoas definem as tendências das 'hashtags'. As pessoas decidem se a sociedade progride ou regride. Quando tomarmos consciência disso podemos deixar de esperar que chegue algum futuro inevitável, e começar a funcionar.
You know, we've all been taught that the arc of the moral universe is long but that it bends toward justice. Maybe. Maybe it will. But that has always been an aspiration. It is not a guarantee. The arc doesn't bend itself. It's not bent inevitably by some mysterious force. The real truth, which is scarier and also more liberating, is that we bend it.
Fomos todos ensinados que o arco do universo moral é amplo mas inclina-se para o lado da justiça. Talvez. Talvez se incline. Mas isso foi sempre uma ambição. Não é um dado adquirido. O arco não se inclina sozinho. Não é uma força misteriosa que o inclina. A verdade, que é mais assustadora, mas também mais libertadora, é que somos nós que o inclinamos.
Thank you.
Muito obrigado.
(Applause)
(Aplausos)