I spent the past three years talking to some of the worst people on the internet. Now, if you've been online recently, you may have noticed that there's a lot of toxic garbage out there: racist memes, misogynist propaganda, viral misinformation. So I wanted to know who was making this stuff. I wanted to understand how they were spreading it. Ultimately, I wanted to know what kind of impact it might be having on our society. So in 2016, I started tracing some of these memes back to their source, back to the people who were making them or who were making them go viral. I'd approach those people and say, "Hey, I'm a journalist. Can I come watch you do what you do?" Now, often the response would be, "Why in hell would I want to talk to some low-t soy-boy Brooklyn globalist Jew cuck who's in cahoots with the Democrat Party?"
Ho passato gli ultimi tre anni a parlare con le peggiori persone che ci siano in internet. Se siete stati online di recente, avrete notato che lì ci sono molti rifiuti tossici meme razzisti, propaganda misogina, disinformazione virale. Volevo scoprire chi faceva questa roba. Volevo capire in che modo la diffondevano. E infine volevo sapere quale fosse l'impatto sulla nostra società. Così nel 2016 ho iniziato a risalire alle fonti di questi meme, a chi li creava o chi li rendeva virali. Ho contattato queste persone dicendo: "Ciao, sono un giornalista. Posso venire a vedere quel che fai?" Spesso la risposta era: "Perché diavolo dovrei parlare con uno smidollato senza testosterone, globalista di Brooklyn e ebreo senza palle che è in combutta coi Democratici?
(Laughter)
(Risate)
To which my response would be, "Look, man, that's only 57 percent true."
A cui rispondevo: "Senti, bello, è vero solo al 57 percento"
(Laughter)
(Risate)
But often I got the opposite response. "Yeah, sure, come on by." So that's how I ended up in the living room of a social media propagandist in Southern California. He was a married white guy in his late 30s. He had a table in front of him with a mug of coffee, a laptop for tweeting, a phone for texting and an iPad for livestreaming to Periscope and YouTube. That was it. And yet, with those tools, he was able to propel his fringe, noxious talking points into the heart of the American conversation.
Ma spesso ricevevo la risposta opposta. "Certo, vieni pure". Ed è così che sono finito nel salotto di un propagandista da social media nella California del sud. Era un ragazzo bianco, sposato quasi sui quarant'anni. Davanti a sé aveva un tavolo e una tazza di caffè un portatile per twittare un telefono per chattare e un iPad per lo streaming su Periscope e YouTube. Tutto lì. Tuttavia, con quegli strumenti, riusciva a portare le sue idee radicali e nocive nel cuore della conversazione americana.
For example, one of the days I was there, a bomb had just exploded in New York, and the guy accused of planting the bomb had a Muslim-sounding name. Now, to the propagandist in California, this seemed like an opportunity, because one of the things he wanted was for the US to cut off almost all immigration, especially from Muslim-majority countries. So he started livestreaming, getting his followers worked up into a frenzy about how the open borders agenda was going to kill us all and asking them to tweet about this, and use specific hashtags, trying to get those hashtags trending. And tweet they did -- hundreds and hundreds of tweets, a lot of them featuring images like this one.
Ad esempio, uno degli ultimi giorni che ero lì, a New York era appena scoppiata una bomba, il tipo accusato di aver piazzato la bomba aveva un nome che sembrava musulmano. Ora, al propagandista della California questa sembrava un'occasione perché una delle cose che voleva era che gli USA tagliassero l'immigrazione specialmente dai paesi a maggioranza musulmana. Quindi ha iniziato a trasmettere live aizzando i suoi followers in questa follia su come i confini aperti ci avrebbero uccisi tutti chiedendo di twittare questo argomento usando hashtags specifici, cercando di farli diventare trend. E hanno twittato davvero, centinaia e centinaia di tweet, molti di loro con immagini tipo questa.
So that's George Soros. He's a Hungarian billionaire and philanthropist, and in the minds of some conspiracists online, George Soros is like a globalist bogeyman, one of a few elites who is secretly manipulating all of global affairs. Now, just to pause here: if this idea sounds familiar to you, that there are a few elites who control the world and a lot of them happen to be rich Jews, that's because it is one of the most anti-Semitic tropes in existence. I should also mention that the guy in New York who planted that bomb, he was an American citizen. So whatever else was going on there, immigration was not the main issue.
Questo è George Soros. É un ungherese milionario e filantropo, e nella testa di alcuni cospirazionisti online George Soros è lo spauracchio globalista, uno dell'élite che in segreto sta manipolando tutti gli affari globali. Fermiamoci un attimo: se questa idea vi suona familiare, che c'è un'élite che controlla il mondo composta principalmente da ebrei ricchi, è perché è uno degli argomenti fondanti dell'antisemitismo. Dovrei anche dirvi che il ragazzo che ha piazzato la bomba a New York era un cittadino americano. Quindi, di qualunque cosa si trattasse, l'immigrazione non era il fattore principale.
And the propagandist in California, he understood all this. He was a well-read guy. He was actually a lawyer. He knew the underlying facts, but he also knew that facts do not drive conversation online. What drives conversation online is emotion.
E il propagandista della California lo sapeva bene. Era un ragazzo istruito. Era un avvocato. Conosceva i fatti reali, ma sapeva che i fatti non alimentano la conversazione online. Ciò che alimenta la conversazione online sono le emozioni.
See, the original premise of social media was that it was going to bring us all together, make the world more open and tolerant and fair ... And it did some of that. But the social media algorithms have never been built to distinguish between what's true or false, what's good or bad for society, what's prosocial and what's antisocial. That's just not what those algorithms do. A lot of what they do is measure engagement: clicks, comments, shares, retweets, that kind of thing. And if you want your content to get engagement, it has to spark emotion, specifically, what behavioral scientists call "high-arousal emotion."
Lo scopo originario dei social media era di renderci più vicini, rendendo il mondo più aperto, tollerante e giusto... E qualcosa l'hanno fatto. Ma gli algoritmi dei social media non sono stati fatti per distinguere tra ciò che è vero o falso, cosa è giusto o nocivo per la società, o cosa è pro-social o anti-social. Gli algoritmi non fanno questo. Molto di quel che fanno è misurare il coinvolgimento: click, commenti, condivisioni, ritweet, quel genere di cose. E se volete che il vostro contenuto venga considerato, deve trasudare emozioni, ciò che gli scienziati comportamentali chiamano "suscitare emozioni forti".
Now, "high arousal" doesn't only mean sexual arousal, although it's the internet, obviously that works. It means anything, positive or negative, that gets people's hearts pumping. So I would sit with these propagandists, not just the guy in California, but dozens of them, and I would watch as they did this again and again successfully, not because they were Russian hackers, not because they were tech prodigies, not because they had unique political insights -- just because they understood how social media worked, and they were willing to exploit it to their advantage.
"Suscitare emozioni forti" non solo a livello sessuale anche se parliamo di internet, e ovviamente funziona. Significa qualunque emozione, positiva o negativa, che faccia battere il cuore. Quindi ero seduto con questi propagandisti non solo il tizio in California, ma dozzine di loro, e li guardavo mentre portavano a termine questo schema, con successo, non perché erano hacker russi, non perché erano geni del computer, non perché avevano visioni politiche acute, ma solo perché avevano capito come funzionavano i social, e volevano sfruttarli a loro vantaggio.
Now, at first I was able to tell myself this was a fringe phenomenon, something that was relegated to the internet. But there's really no separation anymore between the internet and everything else. This is an ad that ran on multiple TV stations during the 2018 congressional elections, alleging with very little evidence that one of the candidates was in the pocket of international manipulator George Soros, who is awkwardly photoshopped here next to stacks of cash. This is a tweet from the President of the United States, alleging, again with no evidence, that American politics is being manipulated by George Soros. This stuff that once seemed so shocking and marginal and, frankly, just ignorable, it's now so normalized that we hardly even notice it.
All'inizio mi dicevo che era un fenomeno marginale, qualcosa confinato alla rete. Ma non esiste più una vera separazione tra internet e tutto il resto. Questa è una pubblicità messa in onda su diversi canali nelle elezioni del Congresso del 2018 che dichiara, senza prove, che uno dei candidati era un uomo del manipolatore internazionale George Soros, che qui è evidentemente photoshoppato con un mucchio di soldi. Questo è un tweet del Presidente degli Stati Uniti che dichiara, sempre senza prove, che la politica americana viene manipolata da George Soros. Ciò che prima sembrava così scioccante, marginale e non degno di nota, adesso si è normalizzato e quasi non lo notiamo più.
So I spent about three years in this world. I talked to a lot of people. Some of them seemed to have no core beliefs at all. They just seemed to be betting, perfectly rationally, that if they wanted to make some money online or get some attention online, they should just be as outrageous as possible. But I talked to other people who were true ideologues. And to be clear, their ideology was not traditional conservatism. These were people who wanted to revoke female suffrage. These were people who wanted to go back to racial segregation. Some of them wanted to do away with democracy altogether. Now, obviously these people were not born believing these things. They didn't pick them up in elementary school. A lot of them, before they went down some internet rabbit hole, they had been libertarian or they had been socialist or they had been something else entirely. So what was going on?
Ho passato circa tre anni in questo mondo. Ho parlato con molte persone. Alcuni sono completamente senza principi. Scommettono in maniera perfettamente razionale che se vogliono fare un po' di soldi online o ricevere attenzione online, devono essere più offensivi possibili. Ma ho anche parlato con gente con vere ideologie. E per essere chiari, la loro ideologia non era il classico tradizionalismo. Questa gente vuole abolire il suffragio femminile. Questa gente vuole tornare alla segregazione razziale. Alcuni volevano eliminare la democrazia, di colpo. Ovviamente queste persone non sono nate con queste idee in testa. Non le hanno sviluppate durante le elementari. Molti, prima di finire nella tana del bianconiglio di internet, avevano idee liberali, o erano dei socialisti o qualcosa di completamente diverso. Quindi cosa succedeva?
Well, I can't generalize about every case, but a lot of the people I spoke to, they seem to have a combination of a high IQ and a low EQ. They seem to take comfort in anonymous, online spaces rather than connecting in the real world. So often they would retreat to these message boards or these subreddits, where their worst impulses would be magnified. They might start out saying something just as a sick joke, and then they would get so much positive reinforcement for that joke, so many meaningless "internet points," as they called it, that they might start believing their own joke.
Non posso generalizzare ogni singolo caso, ma molte persone con cui ho parlato, sembrano avere una combinazione di alto IQ e basso EQ. Sembrano a loro agio nello spazio online anonimo piuttosto che nel mondo reale. Quindi spesso si rifugiano in questi forum, o questi subreddit, dove i loro istinti peggiori vengono amplificati. Potrebbero iniziare con una battuta infelice per poi ricevere così tanta approvazione per quella battuta così tanti "punti internet", li chiamano così, che finiranno per crederci, a quella battuta.
I talked a lot with one young woman who grew up in New Jersey, and then after high school, she moved to a new place and suddenly she just felt alienated and cut off and started retreating into her phone. She found some of these spaces on the internet where people would post the most shocking, heinous things. And she found this stuff really off-putting but also kind of engrossing, kind of like she couldn't look away from it. She started interacting with people in these online spaces, and they made her feel smart, they made her feel validated. She started feeling a sense of community, started wondering if maybe some of these shocking memes might actually contain a kernel of truth. A few months later, she was in a car with some of her new internet friends headed to Charlottesville, Virginia, to march with torches in the name of the white race. She'd gone, in a few months, from Obama supporter to fully radicalized white supremacist.
Ho parlato molto con una ragazza, cresciuta in New Jersey, che dopo il liceo si è trasferita in una nuova città e all'improvviso si è ritrovata sola e isolata e ha iniziato a rifugiarsi nel suo telefono. Ha trovato alcuni spazi su internet in cui le persone postavano le cose più scioccanti e brutali. Per lei era davvero sgradevole ma in qualche modo la attirava, non riusciva a fare a meno di guardare. Ha iniziato a interagire con queste persone, e l'hanno fatta sentire intelligente e accettata. Ha cominciato a sentirsi parte della community domandandosi se forse quei meme scioccanti potessero davvero contenere una briciola di verità. Dopo alcuni mesi, si trovava in macchina con i suoi nuovi amici di internet diretta a Charlottesville in Virginia, per marciare con fiaccole inneggiando alla razza bianca. In pochi mesi era passata da sostenitrice di Obama a una radicalizzata suprematista della razza bianca.
Now, in her particular case, she actually was able to find her way out of the cult of white supremacy. But a lot of the people I spoke to were not. And just to be clear: I was never so convinced that I had to find common ground with every single person I spoke to that I was willing to say, "You know what, man, you're a fascist propagandist, I'm not, whatever, let's just hug it out, all our differences will melt away." No, absolutely not. But I did become convinced that we cannot just look away from this stuff. We have to try to understand it, because only by understanding it can we even start to inoculate ourselves against it.
In questo caso specifico, è riuscita è trovare la via per uscire dal culto della razza bianca. Ma molti di quelli con cui ho parlato non ce l'hanno fatta. Per essere chiari: non ho mai avuto la pretesa di avere argomenti comuni con chiunque parlassi che mi facesse dire: "Sai che c'è, sei un propagandista fascista, io no ma non importa, abbracciamoci e le nostre differenze spariranno". Assolutamente no. Ma mi sono reso conto che non possiamo voltare lo sguardo davanti a ciò. Dobbiamo cercare di comprenderlo perché solo se lo capiamo potremmo trovare l'antidoto.
In my three years in this world, I got a few nasty phone calls, even some threats, but it wasn't a fraction of what female journalists get on this beat. And yeah, I am Jewish, although, weirdly, a lot of the Nazis couldn't tell I was Jewish, which I frankly just found kind of disappointing.
Durante i tre anni in questo mondo, ho ricevuto telefonate spiacevoli persino qualche minaccia, ma non era nemmeno una minima parte di quel che subiscono le giornaliste. E sì, sono ebreo, anche se, stranamente, molti Nazi non si sono accorti che fossi ebreo e francamente ne sono rimasto deluso.
(Laughter)
(Risate)
Seriously, like, your whole job is being a professional anti-Semite. Nothing about me is tipping you off at all? Nothing?
Davvero, il tuo unico scopo è essere un antisemita professionista. E non ti viene nemmeno un dubbio su di me? Nemmeno uno?
(Laughter)
(Risate)
This is not a secret. My name is Andrew Marantz, I write for "The New Yorker," my personality type is like if a Seinfeld episode was taped at the Park Slope Food Coop. Nothing?
Non è un segreto. Mi chiamo Andrew Marantz, scrivo per il "The New Yorker" la mia personalità corrisponde a un episodio di Seinfeld girato in un negozio new age vegano. Niente?
(Laughter)
(Risate)
Anyway, look -- ultimately, it would be nice if there were, like, a simple formula: smartphone plus alienated kid equals 12 percent chance of Nazi. It's obviously not that simple. And in my writing, I'm much more comfortable being descriptive, not prescriptive. But this is TED, so let's get practical. I want to share a few suggestions of things that citizens of the internet like you and I might be able to do to make things a little bit less toxic.
Comunque, sarebbe davvero bello se ci fosse una formula semplice: smartphone più ragazzo alienato uguale 12 percento di possibilità Nazi. Ma ovviamente non è così semplice. Quando scrivo preferisco essere descrittivo e non prescrittivo. Ma siamo a TED quindi siamo pratici. Voglio condividere alcuni suggerimenti su cose che gli abitanti di internet come voi e me possono fare per rendere le cose un po' meno tossiche.
So the first one is to be a smart skeptic. So, I think there are two kinds of skepticism. And I don't want to drown you in technical epistemological information here, but I call them smart and dumb skepticism. So, smart skepticism: thinking for yourself, questioning every claim, demanding evidence -- great, that's real skepticism.
La prima è essere degli scettici intelligenti. Credo ci siano due tipi di scetticismo. Non voglio infarcirvi di informazioni tecniche di epistemologia qui, ma li chiamerò scetticismo intelligente e stupido. Scetticismo intelligente: pensare con la vostra testa, mettere in discussione le dichiarazioni, chiedere prove, perfetto, questo è il vero scetticismo.
Dumb skepticism: it sounds like skepticism, but it's actually closer to knee-jerk contrarianism. Everyone says the earth is round, you say it's flat. Everyone says racism is bad, you say, "I dunno, I'm skeptical about that." I cannot tell you how many young white men I have spoken to in the last few years who have said, "You know, the media, my teachers, they're all trying to indoctrinate me into believing in male privilege and white privilege, but I don't know about that, man, I don't think so." Guys -- contrarian white teens of the world -- look: if you are being a round earth skeptic and a male privilege skeptic and a racism is bad skeptic, you're not being a skeptic, you're being a jerk.
Scetticismo stupido: sembra scetticismo ma è più un istintivo andar contro a tutto. Tutti dicono che la terra è tonda, voi dite che è piatta. Tutti dicono che il razzismo è sbagliato voi dite: "Non saprei, sono scettico a riguardo" Non so dirvi quanti uomini bianchi con cui ho parlato negli ultimi anni hanno detto: "I media, i miei professori cercano di indottrinarmi e farmi credere che il maschio bianco goda di più privilegi, ma non so, non credo sia così". Ragazzi, bastian contrari bianchi nel mondo, guardate: se siete scettici sulla terra rotonda, sui privilegi maschili e sul razzismo non siete scettici, siete solo idioti.
(Applause)
(Applausi)
It's great to be independent-minded, we all should be independent-minded, but just be smart about it.
È grandioso ragionare con la propria testa dovremmo farlo tutti, ma fatelo con intelligenza.
So this next one is about free speech. You will hear smart, accomplished people who will say, "Well, I'm pro-free speech," and they say it in this way that it's like they're settling a debate, when actually, that is the very beginning of any meaningful conversation. All the interesting stuff happens after that point. OK, you're pro-free speech. What does that mean? Does it mean that David Duke and Richard Spencer need to have active Twitter accounts? Does it mean that anyone can harass anyone else online for any reason? You know, I looked through the entire list of TED speakers this year. I didn't find a single round earth skeptic. Is that a violation of free speech norms? Look, we're all pro-free speech, it's wonderful to be pro-free speech, but if that's all you know how to say again and again, you're standing in the way of a more productive conversation.
La prossima è la libertà di parola. Sentirete persone in gamba, affermate dire "Sono a favore della libertà di parola" e dicendo così è come se concludessero un dibattito, quando in realtà quello è solo l'inizio di ogni discussione importante. Tutta la roba interessante accade dopo quel momento. OK, sei a favore della libertà di parola. Cioè? Significa che David Duke e Richard Spencer devono avere account di Twitter attivi? Significa che ognuno può attaccare chiunque online per qualsiasi motivo? Ho guardato l'intera lista degli speaker di TED di quest'anno. Non ho trovato nessun scettico sulla terra rotonda. Questo vìola le norme della libertà di parola? Siamo tutti a favore della libertà di parola, è meraviglioso esserlo, ma se è l'unica cosa che sapete dire, state solo intralciando una conversazione che sarebbe più produttiva.
Making decency cool again, so ... Great!
Far diventare l'educazione di moda, grandioso!
(Applause)
(Applausi)
Yeah. I don't even need to explain it. So in my research, I would go to Reddit or YouTube or Facebook, and I would search for "sharia law" or I would search for "the Holocaust," and you might be able to guess what the algorithms showed me, right? "Is sharia law sweeping across the United States?" "Did the Holocaust really happen?" Dumb skepticism. So we've ended up in this bizarre dynamic online, where some people see bigoted propaganda as being edgy or being dangerous and cool, and people see basic truth and human decency as pearl-clutching or virtue-signaling or just boring. And the social media algorithms, whether intentionally or not, they have incentivized this, because bigoted propaganda is great for engagement. Everyone clicks on it, everyone comments on it, whether they love it or they hate it. So the number one thing that has to happen here is social networks need to fix their platforms.
Non c'è nemmeno bisogno di spiegazioni. Nella mia ricerca andavo su Reddit o YouTube o Facebook e cercavo "legge della sharia" oppure "Olocausto", riuscite a indovinare cosa gli algoritmi mi mostravano? "La legge della sharia si sta diffondendo negli Stati Uniti?" "L'Olocausto è accaduto davvero?" Scetticismo stupido. Siamo finiti in questa bizzarra dinamica online in cui la gente considera la propaganda bigotta come qualcosa di audace, impudente e figo la gente vede la verità e l'educazione come buonismo o esibizionismo di virtù, o solo come cose noiose. Gli algoritmi dei social media, intenzionalmente o meno, hanno incentivato questo pensiero, perché la propaganda bigotta è favolosa per coinvolgere. Tutti cliccano, tutti commentano, sia che la amino o la odino. Quindi il punto numero uno su cui agire è che i social network devono aggiustare le loro piattaforme.
(Applause)
(Applausi)
So if you're listening to my voice and you work at a social media company or you invest in one or, I don't know, own one, this tip is for you. If you have been optimizing for maximum emotional engagement and maximum emotional engagement turns out to be actively harming the world, it's time to optimize for something else.
Quindi se mi state ascoltando e lavorate presso un social media o ne siete investitori, o ne siete i proprietari, questo consiglio è per voi. Se state sfruttando il massimo livello di coinvolgimento emotivo e questo si rivela essere un'arma che sta distruggendo il mondo è arrivato il momento di sfruttare qualcosa d'altro.
(Applause)
(Applauso)
But in addition to putting pressure on them to do that and waiting for them and hoping that they'll do that, there's some stuff that the rest of us can do, too. So, we can create some better pathways or suggest some better pathways for angsty teens to go down. If you see something that you think is really creative and thoughtful and you want to share that thing, you can share that thing, even if it's not flooding you with high arousal emotion. Now that is a very small step, I realize, but in the aggregate, this stuff does matter, because these algorithms, as powerful as they are, they are taking their behavioral cues from us.
Ma oltre a fare pressione affinché lo facciano oltre ad aspettare e sperare che lo facciano, c'è qualcosa che noi tutti possiamo fare. Possiamo creare percorsi migliori, o suggerire percorsi migliori agli adolescenti angosciati. Se vedete qualcosa di creativo e profondo e volete condividerlo, potete farlo, anche se non vi inonda di sensazioni forti. É un piccolo passo, lo so, ma nel gruppo, questa roba fa la differenza perché questi algoritmi, potenti come sono, prendono i segnali di comportamento da noi.
So let me leave you with this. You know, a few years ago it was really fashionable to say that the internet was a revolutionary tool that was going to bring us all together. It's now more fashionable to say that the internet is a huge, irredeemable dumpster fire. Neither caricature is really true. We know the internet is just too vast and complex to be all good or all bad. And the danger with these ways of thinking, whether it's the utopian view that the internet will inevitably save us or the dystopian view that it will inevitably destroy us, either way, we're letting ourselves off the hook. There is nothing inevitable about our future. The internet is made of people. People make decisions at social media companies. People make hashtags trend or not trend. People make societies progress or regress. When we internalize that fact, we can stop waiting for some inevitable future to arrive and actually get to work now.
Vi lascio con questo pensiero. Qualche anno fa andava di moda dire che internet era uno strumento rivoluzionario che ci avrebbe uniti tutti. Ora va più di moda dire che internet è un disastro irrimediabile. Nessuna definizione è completamente esatta. Sappiamo che internet è troppo vasto e complesso per essere solo positivo o negativo. E il pericolo di pensarla così, sia che si tratti dell'idea utopica che internet ci salverà tutti o la visione distopica che ci distruggerà tutti, in ogni caso, ce ne stiamo lavando le mani. Il nostro futuro non è già scritto. Internet è fatto di persone. Persone che prendono decisioni nelle compagnie di social media. Persone che rendono gli hashtag trend oppure no. Persone che fanno progredire o regredire la società. Quando capiremo a fondo che possiamo smettere di attendere l'inevitabile futuro e fare qualcosa adesso.
You know, we've all been taught that the arc of the moral universe is long but that it bends toward justice. Maybe. Maybe it will. But that has always been an aspiration. It is not a guarantee. The arc doesn't bend itself. It's not bent inevitably by some mysterious force. The real truth, which is scarier and also more liberating, is that we bend it.
Ci hanno insegnato che l'arco morale dell'universo è lungo ma tende verso la giustizia. Forse. Forse sarà così. Ma quello è sempre stato un desiderio. Non una garanzia. L'arco non si tende da solo. E non è teso nemmeno da una misteriosa forza. La verità che fa molta più paura ma è anche liberatoria è che siamo noi a tenderlo.
Thank you.
Grazie.
(Applause)
(Applausi)