I spent the past three years talking to some of the worst people on the internet. Now, if you've been online recently, you may have noticed that there's a lot of toxic garbage out there: racist memes, misogynist propaganda, viral misinformation. So I wanted to know who was making this stuff. I wanted to understand how they were spreading it. Ultimately, I wanted to know what kind of impact it might be having on our society. So in 2016, I started tracing some of these memes back to their source, back to the people who were making them or who were making them go viral. I'd approach those people and say, "Hey, I'm a journalist. Can I come watch you do what you do?" Now, often the response would be, "Why in hell would I want to talk to some low-t soy-boy Brooklyn globalist Jew cuck who's in cahoots with the Democrat Party?"
Eu passei os últimos três anos conversando com algumas das piores pessoas na internet. Se você esteve on-line recentemente, deve ter notado que há uma pilha de lixo tóxico por aí: memes racistas, propaganda misógina, informações falsas que viralizam. Eu queria saber quem fazia isso. Eu queria entender como isso se espalhava. Por fim, eu queria saber que tipo de impacto isso causa na nossa sociedade. Em 2016, comecei a rastrear alguns desses memes até suas fontes originais, até as pessoas que os criavam ou os faziam viralizar. Eu dizia a elas: "Sou um jornalista, posso ir ver o que você faz?". Na maioria das vezes a resposta era: "Por que diabos eu falaria com um viadinho, judeu chifrudo globalista do Brooklyn que conspira com o Partido Democrático?".
(Laughter)
(Risos)
To which my response would be, "Look, man, that's only 57 percent true."
A minha resposta era: "Cara, isso é apenas 57% verdade".
(Laughter)
(Risos)
But often I got the opposite response. "Yeah, sure, come on by." So that's how I ended up in the living room of a social media propagandist in Southern California. He was a married white guy in his late 30s. He had a table in front of him with a mug of coffee, a laptop for tweeting, a phone for texting and an iPad for livestreaming to Periscope and YouTube. That was it. And yet, with those tools, he was able to propel his fringe, noxious talking points into the heart of the American conversation.
Mas também me respondiam: "Tudo bem, pode vir". Foi assim que fui parar na sala de um propagandista de mídias sociais no sul da Califórnia. Ele era um cara branco, casado, na casa dos 30. Ele tinha uma mesa com uma caneca com café, um notebook para tuitar, um celular para mandar mensagens e um iPad para fazer transmissões ao vivo no Periscope e no YouTube. Era só isso. E ainda assim, ele era capaz de estimular assuntos periféricos e tóxicos no coração da conversa norte-americana.
For example, one of the days I was there, a bomb had just exploded in New York, and the guy accused of planting the bomb had a Muslim-sounding name. Now, to the propagandist in California, this seemed like an opportunity, because one of the things he wanted was for the US to cut off almost all immigration, especially from Muslim-majority countries. So he started livestreaming, getting his followers worked up into a frenzy about how the open borders agenda was going to kill us all and asking them to tweet about this, and use specific hashtags, trying to get those hashtags trending. And tweet they did -- hundreds and hundreds of tweets, a lot of them featuring images like this one.
Certo dia em que eu estava lá, uma bomba explodiu em Nova York, e o cara acusado de plantar a bomba tinha um nome que soava muçulmano. Para o propagandista na Califórnia, isso soou como uma oportunidade, porque ele queria que os Estados Unidos acabassem com quase toda imigração, especialmente de países de maioria muçulmana. Então, ele começou uma transmissão ao vivo, fazendo seus seguidores falarem alboroçados sobre como a política de portas abertas mataria todo mundo, pedindo que tuitassem sobre isso com hashtags específicas para entrarem nos assuntos mais comentados. E eles tuitavam; centenas e centenas de tuítes, muitos tinham imagens como esta aqui.
So that's George Soros. He's a Hungarian billionaire and philanthropist, and in the minds of some conspiracists online, George Soros is like a globalist bogeyman, one of a few elites who is secretly manipulating all of global affairs. Now, just to pause here: if this idea sounds familiar to you, that there are a few elites who control the world and a lot of them happen to be rich Jews, that's because it is one of the most anti-Semitic tropes in existence. I should also mention that the guy in New York who planted that bomb, he was an American citizen. So whatever else was going on there, immigration was not the main issue.
Esse é George Soros. Ele é um bilionário e filantropo húngaro, e na mente de alguns conspiradores on-line, George Soros é um bicho-papão globalista, alguém da pequena elite que está secretamente manipulando o mundo. Vamos fazer uma pequena pausa: se essa ideia lhe soa familiar, que existe uma pequena elite controlando o mundo e muitos deles são judeus ricos, é porque essa é uma das mensagens mais antissemitas que existe. Eu também deveria mencionar que o cara em Nova York que plantou a bomba era um cidadão norte-americano. Seja lá o que estivesse acontecendo lá, a imigração não era o problema central.
And the propagandist in California, he understood all this. He was a well-read guy. He was actually a lawyer. He knew the underlying facts, but he also knew that facts do not drive conversation online. What drives conversation online is emotion.
E o propagandista na Califórnia, ele entendia tudo isso. Ele era instruído. Era um advogado. Ele conhecia os fatos subjacentes, mas também sabia que fatos não iniciam conversas on-line. O que inicia uma conversa on-line é a emoção.
See, the original premise of social media was that it was going to bring us all together, make the world more open and tolerant and fair ... And it did some of that. But the social media algorithms have never been built to distinguish between what's true or false, what's good or bad for society, what's prosocial and what's antisocial. That's just not what those algorithms do. A lot of what they do is measure engagement: clicks, comments, shares, retweets, that kind of thing. And if you want your content to get engagement, it has to spark emotion, specifically, what behavioral scientists call "high-arousal emotion."
A premissa original das mídias sociais é que elas iriam nos unir e fazer do mundo um lugar mais aberto, tolerante e justo. Um pouco disso aconteceu. Mas os algoritmos das mídias sociais não foram feitos para diferenciar o verdadeiro do falso, o que é bom ou mau para a sociedade, o que é pró-social e o que é antissocial. Não é isso que os algoritmos fazem. Muito do que eles fazem é medir o engajamento: cliques, comentários, compartilhamentos, retuítes, esse tipo de coisas. E se você quer que seu conteúdo crie engajamento, ele precisa despertar emoção, especificamente, o que os cientistas chamam de "alta excitação de emoção".
Now, "high arousal" doesn't only mean sexual arousal, although it's the internet, obviously that works. It means anything, positive or negative, that gets people's hearts pumping. So I would sit with these propagandists, not just the guy in California, but dozens of them, and I would watch as they did this again and again successfully, not because they were Russian hackers, not because they were tech prodigies, not because they had unique political insights -- just because they understood how social media worked, and they were willing to exploit it to their advantage.
"Alta excitação" não é apenas sexual, mas como é a internet, obviamente isso acontece. Significa que qualquer coisa, positiva ou negativa, provoca um sentimento. Então, eu me sentava com propagandistas, não só com esse cara, mas com dezenas deles, e eu observava como eles faziam isso, uma e outra vez, e com sucesso, não porque eram hackers russos, não porque eram prodígios, não porque tinham visões políticas únicas, mas porque entendiam como as mídias sociais funcionam, e exploravam isso a favor deles.
Now, at first I was able to tell myself this was a fringe phenomenon, something that was relegated to the internet. But there's really no separation anymore between the internet and everything else. This is an ad that ran on multiple TV stations during the 2018 congressional elections, alleging with very little evidence that one of the candidates was in the pocket of international manipulator George Soros, who is awkwardly photoshopped here next to stacks of cash. This is a tweet from the President of the United States, alleging, again with no evidence, that American politics is being manipulated by George Soros. This stuff that once seemed so shocking and marginal and, frankly, just ignorable, it's now so normalized that we hardly even notice it.
À primeira vista, pensei que isso era um fenômeno isolado, algo relegado à internet. Mas não existe mais separação entre a internet e qualquer outra coisa. Esta é uma propaganda de televisão durante as eleições do congresso em 2018, alegando, quase sem provas, que um dos candidatos estava sob o controle do manipulador internacional George Soros, cuja foto foi editada com pilhas de dinheiro. Este é um tuíte do presidente dos Estados Unidos, alegando, também sem provas, que a política norte-americana está sendo manipulada por George Soros. Essas coisas que pareciam ser chocantes, marginais e até insignificantes, estão agora tão normalizadas que quase nem notamos.
So I spent about three years in this world. I talked to a lot of people. Some of them seemed to have no core beliefs at all. They just seemed to be betting, perfectly rationally, that if they wanted to make some money online or get some attention online, they should just be as outrageous as possible. But I talked to other people who were true ideologues. And to be clear, their ideology was not traditional conservatism. These were people who wanted to revoke female suffrage. These were people who wanted to go back to racial segregation. Some of them wanted to do away with democracy altogether. Now, obviously these people were not born believing these things. They didn't pick them up in elementary school. A lot of them, before they went down some internet rabbit hole, they had been libertarian or they had been socialist or they had been something else entirely. So what was going on?
Eu passei cerca de três anos nesse mundo. Conversei com várias pessoas. Algumas pareciam não ter nenhuma crença básica. Elas pareciam apenas estar apostando, racionalmente, que, para ganhar dinheiro ou chamar a atenção on-line, elas só precisavam ser as mais escandalosas possíveis. Mas também conversei com verdadeiras ideologias. E, para ser claro, a ideologia delas não era o conservadorismo tradicional. Elas queriam acabar com o sufrágio feminino. Elas queriam retornar à segregação racial. Algumas queriam abolir a democracia. Mas elas não nasceram acreditando nisso. Elas não aprenderam isso na escola. Antes de caírem no buraco sem fim da internet, muitas delas eram libertárias ou socialistas, ou qualquer outra coisa. Então, o que está acontecendo?
Well, I can't generalize about every case, but a lot of the people I spoke to, they seem to have a combination of a high IQ and a low EQ. They seem to take comfort in anonymous, online spaces rather than connecting in the real world. So often they would retreat to these message boards or these subreddits, where their worst impulses would be magnified. They might start out saying something just as a sick joke, and then they would get so much positive reinforcement for that joke, so many meaningless "internet points," as they called it, that they might start believing their own joke.
Não posso generalizar todos os casos, mas muitas pessoas com quem conversei pareciam ter uma combinação de alto QI com baixo QE. Elas se consolavam em espaços anônimos e on-line em vez de se conectarem com o mundo real. Muitas vezes, elas se isolavam em fóruns ou em subreddits, onde seus piores impulsos eram magnificados. Elas podem começar com uma piada doentia, e, então, ganham tanto reforço positivo por essa piada, "acumulam pontuação", como elas dizem, que começam a acreditar na própria piada.
I talked a lot with one young woman who grew up in New Jersey, and then after high school, she moved to a new place and suddenly she just felt alienated and cut off and started retreating into her phone. She found some of these spaces on the internet where people would post the most shocking, heinous things. And she found this stuff really off-putting but also kind of engrossing, kind of like she couldn't look away from it. She started interacting with people in these online spaces, and they made her feel smart, they made her feel validated. She started feeling a sense of community, started wondering if maybe some of these shocking memes might actually contain a kernel of truth. A few months later, she was in a car with some of her new internet friends headed to Charlottesville, Virginia, to march with torches in the name of the white race. She'd gone, in a few months, from Obama supporter to fully radicalized white supremacist.
Conversei bastante com uma jovem que cresceu em Nova Jersey e depois do ensino médio foi morar em outro lugar e, do nada, ela se sentiu alienada e rejeitada e começou a se isolar com seu celular. Ela encontrou espaços na internet onde as pessoas postavam coisas chocantes e abomináveis. Ela achou essas coisas bem desagradáveis, mas meio que cativantes também, meio que difíceis de ignorar. Ela interagia com essas pessoas, e elas a faziam se sentir esperta e a aprovavam. Ela começou a ter uma sensação de comunidade, começou a se perguntar se esses memes chocantes poderiam conter um fundo de verdade. Alguns meses depois, ela estava num carro com amigos virtuais indo para Charlottesville, Virginia, para marchar com tochas em nome da raça branca. Em poucos meses, ela passou de defensora do Obama para supremacista branca completamente radicalizada.
Now, in her particular case, she actually was able to find her way out of the cult of white supremacy. But a lot of the people I spoke to were not. And just to be clear: I was never so convinced that I had to find common ground with every single person I spoke to that I was willing to say, "You know what, man, you're a fascist propagandist, I'm not, whatever, let's just hug it out, all our differences will melt away." No, absolutely not. But I did become convinced that we cannot just look away from this stuff. We have to try to understand it, because only by understanding it can we even start to inoculate ourselves against it.
No seu caso em particular, ela conseguiu sair do culto da supremacia branca. Muitos com quem conversei, não saíram. E para ser claro: nunca me senti convencido de que precisava entrar em consenso com cada pessoa que conversei a ponto de dizer: "Quer saber, cara, você é um propagandista fascista e eu não, não importa, vamos nos abraçar e nossas diferenças vão desaparecer". Não, absolutamente não. Mas fiquei convencido que não podemos ignorar essas coisas. Precisamos tentar entendê-las, porque apenas se a entendermos podemos pensar em começar a nos vacinar contra isso.
In my three years in this world, I got a few nasty phone calls, even some threats, but it wasn't a fraction of what female journalists get on this beat. And yeah, I am Jewish, although, weirdly, a lot of the Nazis couldn't tell I was Jewish, which I frankly just found kind of disappointing.
Durante três anos nesse mundo, recebi algumas ligações desagradáveis, até algumas ameaças, mas isso não é nem uma fração do que acontece com jornalistas mulheres. E sim, eu sou judeu, apesar de que, muito estranho, muitos nazistas não diziam que eu era um, o que, francamente, me deixou um pouco desapontado.
(Laughter)
(Risos)
Seriously, like, your whole job is being a professional anti-Semite. Nothing about me is tipping you off at all? Nothing?
Sério, o seu trabalho é ser um antissemita profissional. Não há nenhuma pista em mim? Nenhuma?
(Laughter)
(Risos)
This is not a secret. My name is Andrew Marantz, I write for "The New Yorker," my personality type is like if a Seinfeld episode was taped at the Park Slope Food Coop. Nothing?
Isso não é segredo. Meu nome é Andrew Marantz, escrevo para o The New Yorker, meu tipo de personalidade é um episódio de Seinfeld gravado no Park Slope Food Coop. Nenhuma?
(Laughter)
(Risos)
Anyway, look -- ultimately, it would be nice if there were, like, a simple formula: smartphone plus alienated kid equals 12 percent chance of Nazi. It's obviously not that simple. And in my writing, I'm much more comfortable being descriptive, not prescriptive. But this is TED, so let's get practical. I want to share a few suggestions of things that citizens of the internet like you and I might be able to do to make things a little bit less toxic.
De qualquer forma, enfim, seria legal se existisse uma fórmula simples: celular mais criança alienada igual 12% de chance de ser nazista. Obviamente não é simples assim. E, quando escrevo, fico mais à vontade sendo descritivo do que prescritivo. Mas estamos no TED, então, vamos ser práticos. Vou compartilhar algumas sugestões de coisas que cidadãos da internet, como eu e você, podem fazer para deixar as coisas menos tóxicas.
So the first one is to be a smart skeptic. So, I think there are two kinds of skepticism. And I don't want to drown you in technical epistemological information here, but I call them smart and dumb skepticism. So, smart skepticism: thinking for yourself, questioning every claim, demanding evidence -- great, that's real skepticism.
A primeira é: seja um cético inteligente. Acho que existem dois tipos de ceticismo. Não quero mergulhar vocês em informações técnicas epistemológicas, mas eu os chamo de ceticismo inteligente e burro. O ceticismo inteligente: pensar por você mesmo, questionar as afirmações, exigir evidências, maravilha, esse é o verdadeiro ceticismo.
Dumb skepticism: it sounds like skepticism, but it's actually closer to knee-jerk contrarianism. Everyone says the earth is round, you say it's flat. Everyone says racism is bad, you say, "I dunno, I'm skeptical about that." I cannot tell you how many young white men I have spoken to in the last few years who have said, "You know, the media, my teachers, they're all trying to indoctrinate me into believing in male privilege and white privilege, but I don't know about that, man, I don't think so." Guys -- contrarian white teens of the world -- look: if you are being a round earth skeptic and a male privilege skeptic and a racism is bad skeptic, you're not being a skeptic, you're being a jerk.
Ceticismo burro: parece ceticismo, mas, na verdade, é uma negação automática. Todo mundo diz que a Terra é redonda, você diz que é plana. Todo mundo diz que o racismo é ruim, você diz: "Sei lá, sou meio cético". Já perdi a conta com quantos jovens brancos conversei que disseram: "A mídia, meus professores, todos estão tentando me doutrinar sobre o privilégio masculino e branco, mas eu não tenho certeza, acho que não é assim". Jovens brancos da negação automática, vejam bem: se você é cético quanto à Terra ser redonda, ao privilégio masculino e ao racismo ser ruim, você não é cético, você é um babaca.
(Applause)
(Risos) (Aplausos)
It's great to be independent-minded, we all should be independent-minded, but just be smart about it.
É maravilhoso ter uma mente independente, todos deveriam ser assim, mas seja inteligente.
So this next one is about free speech. You will hear smart, accomplished people who will say, "Well, I'm pro-free speech," and they say it in this way that it's like they're settling a debate, when actually, that is the very beginning of any meaningful conversation. All the interesting stuff happens after that point. OK, you're pro-free speech. What does that mean? Does it mean that David Duke and Richard Spencer need to have active Twitter accounts? Does it mean that anyone can harass anyone else online for any reason? You know, I looked through the entire list of TED speakers this year. I didn't find a single round earth skeptic. Is that a violation of free speech norms? Look, we're all pro-free speech, it's wonderful to be pro-free speech, but if that's all you know how to say again and again, you're standing in the way of a more productive conversation.
O próximo é a liberdade de expressão. Pessoas inteligentes e realizadas dirão: "Eu apoio a liberdade de expressão". E dizem isso como se estivessem encerrando um debate, quando, na verdade, esse é começo de qualquer conversa significativa. Todas as coisas interessantes acontecem depois disso. Você apoia isso, mas o que isso significa? Significa que David Duke e Richard Spencer precisam ter contas ativas no Twitter? Significa que qualquer um pode assediar alguém on-line por qualquer razão? Olhei toda a lista deste ano dos palestrantes do TED. Não encontrei nenhum cético da Terra redonda. Isso é uma violação das normas da liberdade de expressão? Todos nós apoiamos a liberdade de expressão, isso é maravilhoso, mas se você só sabe repetir isso, você está ficando no caminho de uma conversa mais produtiva.
Making decency cool again, so ... Great!
Fazer a decência ser legal de novo, então... Maravilha!
(Applause)
(Aplausos)
Yeah. I don't even need to explain it. So in my research, I would go to Reddit or YouTube or Facebook, and I would search for "sharia law" or I would search for "the Holocaust," and you might be able to guess what the algorithms showed me, right? "Is sharia law sweeping across the United States?" "Did the Holocaust really happen?" Dumb skepticism. So we've ended up in this bizarre dynamic online, where some people see bigoted propaganda as being edgy or being dangerous and cool, and people see basic truth and human decency as pearl-clutching or virtue-signaling or just boring. And the social media algorithms, whether intentionally or not, they have incentivized this, because bigoted propaganda is great for engagement. Everyone clicks on it, everyone comments on it, whether they love it or they hate it. So the number one thing that has to happen here is social networks need to fix their platforms.
Eu nem preciso explicar. Então, na minha pesquisa, eu acessava o Reddit, o YouTube ou o Facebook, e procurava por "Xaria" ou procurava por "Holocausto", e você pode adivinhar o que os algoritmos me mostravam, certo? "Estaria a Xaria se espalhando pelos Estados Unidos?". "O Holocausto realmente aconteceu?". Ceticismo burro. Chegamos a essa dinâmica on-line bizarra, onde propagandas fanáticas são vistas como algo ousado ou algo perigoso e legal, e a verdade básica e a decência humana são vistas como algo chocante, um sinal de virtude ou apenas entediante. E os algoritmos das mídias sociais, intencionalmente ou não, estão incentivando isso, porque propagandas fanáticas são boas para engajamento. Todo mundo clica, todo mundo comenta, quer tenha amado ou odiado. Então, a primeira coisa que precisa acontecer é que as redes sociais precisam consertar suas plataformas.
(Applause)
(Aplausos)
So if you're listening to my voice and you work at a social media company or you invest in one or, I don't know, own one, this tip is for you. If you have been optimizing for maximum emotional engagement and maximum emotional engagement turns out to be actively harming the world, it's time to optimize for something else.
Se você está me ouvindo e trabalha na empresa de uma mídia social, ou investe em uma, ou é dono de uma, essa dica é para você. Caso você esteja otimizando para engajamento emocional máximo, que está ativamente causando danos no mundo, é hora de otimizar para outra coisa.
(Applause)
(Aplausos)
But in addition to putting pressure on them to do that and waiting for them and hoping that they'll do that, there's some stuff that the rest of us can do, too. So, we can create some better pathways or suggest some better pathways for angsty teens to go down. If you see something that you think is really creative and thoughtful and you want to share that thing, you can share that thing, even if it's not flooding you with high arousal emotion. Now that is a very small step, I realize, but in the aggregate, this stuff does matter, because these algorithms, as powerful as they are, they are taking their behavioral cues from us.
Mas, além de colocar pressão neles, querer e esperar que eles façam isso, há algo que o resto de nós também pode fazer. Podemos criar caminhos melhores ou sugerir caminhos melhores para os adolescentes angustiados seguirem. Se você vê algo que acha bem criativo e inspirador e quer compartilhar, compartilhe isso, mesmo que isso não o esteja inundado com alta excitação de emoção. Esse é um passo bem pequeno, eu sei, mas, no todo, essas coisas realmente importam, porque esses algoritmos poderosos estão retirando suas dicas comportamentais de nós.
So let me leave you with this. You know, a few years ago it was really fashionable to say that the internet was a revolutionary tool that was going to bring us all together. It's now more fashionable to say that the internet is a huge, irredeemable dumpster fire. Neither caricature is really true. We know the internet is just too vast and complex to be all good or all bad. And the danger with these ways of thinking, whether it's the utopian view that the internet will inevitably save us or the dystopian view that it will inevitably destroy us, either way, we're letting ourselves off the hook. There is nothing inevitable about our future. The internet is made of people. People make decisions at social media companies. People make hashtags trend or not trend. People make societies progress or regress. When we internalize that fact, we can stop waiting for some inevitable future to arrive and actually get to work now.
Então, permita-me deixar isto. Há alguns anos, estava na moda dizer que a internet era revolucionária que iria nos unir. Agora, a moda é dizer que a internet é uma grande lixeira irrecuperável pegando fogo. Nenhuma caricatura é verdadeira. Sabemos que a internet é muito vasta e complexa para ser só boa ou só má. E o perigo de ter esse tipo de pensamentos, quer sejam visões utópicas de que a internet nos salvará quer sejam visões distópicas de que ela nos destruirá, seja como for, estamos escapando da responsabilidade. Não há nada inevitável sobre o nosso futuro. A internet é feita de pessoas. As pessoas tomam decisões nas empresas de mídias sociais. As pessoas fazem as hashtags serem o assunto do momento. As pessoas fazem a sociedade progredir ou regredir. Ao internalizarmos esse fato, podemos parar de esperar pela chegada do futuro inevitável e fazer alguma coisa a respeito.
You know, we've all been taught that the arc of the moral universe is long but that it bends toward justice. Maybe. Maybe it will. But that has always been an aspiration. It is not a guarantee. The arc doesn't bend itself. It's not bent inevitably by some mysterious force. The real truth, which is scarier and also more liberating, is that we bend it.
Todos nós aprendemos que o arco do universo moral é longo mas se curva em direção à justiça. Talvez. Talvez ele se curve. Mas isso sempre foi uma aspiração. Isso não é uma garantia. O arco não se curva sozinho. Ele não é inevitavelmente curvado por uma força misteriosa. A verdade real, que é mais assustadora e mais libertadora, é que nós o curvamos.
Thank you.
Obrigado.
(Applause)
(Aplausos)