I spent the past three years talking to some of the worst people on the internet. Now, if you've been online recently, you may have noticed that there's a lot of toxic garbage out there: racist memes, misogynist propaganda, viral misinformation. So I wanted to know who was making this stuff. I wanted to understand how they were spreading it. Ultimately, I wanted to know what kind of impact it might be having on our society. So in 2016, I started tracing some of these memes back to their source, back to the people who were making them or who were making them go viral. I'd approach those people and say, "Hey, I'm a journalist. Can I come watch you do what you do?" Now, often the response would be, "Why in hell would I want to talk to some low-t soy-boy Brooklyn globalist Jew cuck who's in cahoots with the Democrat Party?"
Durante los últimos tres años he hablado con algunas de las peores personas del Internet. Si han estado navegando en Internet recientemente, puede que hayan notado la gran cantidad de basura tóxica que hay: memes racistas, propaganda misógina, desinformación viral. Y quería saber quien estaba creando estas cosas. Quería entender cómo las difundían. Básicamente, quería conocer el impacto que podría tener en nuestra sociedad. Así que en 2016 comencé a buscar el origen de algunos de estos memes para llegar a quienes los creaban o a quienes los hacían virales. Me acercaba a esta gente y les decía: "Soy periodista. ¿Puedo acompañarlo y ver lo que hace?" A menudo, la respuesta sería: "¿Por qué diablos yo quisiera hablar con un 'soy- boy' judío globalista de Brooklyn confabulado con el partido demócrata?".
(Laughter)
(Risas)
To which my response would be, "Look, man, that's only 57 percent true."
Y mi respuesta sería: "Mira, eso solo es un 57 % cierto".
(Laughter)
(Risas)
But often I got the opposite response. "Yeah, sure, come on by." So that's how I ended up in the living room of a social media propagandist in Southern California. He was a married white guy in his late 30s. He had a table in front of him with a mug of coffee, a laptop for tweeting, a phone for texting and an iPad for livestreaming to Periscope and YouTube. That was it. And yet, with those tools, he was able to propel his fringe, noxious talking points into the heart of the American conversation.
Pero muchas veces la respuesta era la opuesta. "Sí, por supuesto, siga." Y así fue cómo terminé en la sala de estar de un propagandista en el Sur de California. Era un hombre blanco, casado, cerca de los cuarenta. Sentado ante una mesa con una taza de café, un portátil para tuitear, un celular para textear y un iPad para hacer directos en Periscope y YouTube. Eso era todo. Y con esas herramientas era capaz de impulsar temas dañinos y alternativos en medio de la conversación estadounidense.
For example, one of the days I was there, a bomb had just exploded in New York, and the guy accused of planting the bomb had a Muslim-sounding name. Now, to the propagandist in California, this seemed like an opportunity, because one of the things he wanted was for the US to cut off almost all immigration, especially from Muslim-majority countries. So he started livestreaming, getting his followers worked up into a frenzy about how the open borders agenda was going to kill us all and asking them to tweet about this, and use specific hashtags, trying to get those hashtags trending. And tweet they did -- hundreds and hundreds of tweets, a lot of them featuring images like this one.
Por ejemplo, uno de los días que estuve allí, una bomba acababa de explotar en Nueva York, y el chico acusado de haberla puesto tenía un sonante nombre musulmán. El propagandista de California vio esto como una oportunidad porque una de las cosas que quería era que EE. UU. cortara casi toda la inmigración, especialmente de los países mayoritariamente musulmanes. Así que empezó una transmisión en vivo, haciendo que sus seguidores se pusieran frenéticos diciendo que las fronteras libres nos iban a matar. Él les pedía que tuitiaran y usaran hashtags específicos para intentar hacerlos tendencia. Y tuitearon... Cientos y cientos de tuits, muchos de ellos mostraban imágenes como esta.
So that's George Soros. He's a Hungarian billionaire and philanthropist, and in the minds of some conspiracists online, George Soros is like a globalist bogeyman, one of a few elites who is secretly manipulating all of global affairs. Now, just to pause here: if this idea sounds familiar to you, that there are a few elites who control the world and a lot of them happen to be rich Jews, that's because it is one of the most anti-Semitic tropes in existence. I should also mention that the guy in New York who planted that bomb, he was an American citizen. So whatever else was going on there, immigration was not the main issue.
Este es George Soros. Un multimillonario y filántropo húngaro y según varios conspiradores online, George Soros es una especie de monstruo globalista, perteneciente a la élite que secretamente manipula todos los asuntos globales. Situémonos aquí un momento: si esta idea les resulta familiar, que existe una élite que controla el mundo formada en su mayoría por judíos ricos, es porque es uno de las figuras más antisemitas que existen. Debo mencionar que el hombre que puso la bomba en Nueva York era un ciudadano estadounidense. Fuera cual fuera la razón la inmigración no era lo importante.
And the propagandist in California, he understood all this. He was a well-read guy. He was actually a lawyer. He knew the underlying facts, but he also knew that facts do not drive conversation online. What drives conversation online is emotion.
El propagandista de California era consciente de ello. Era un hombre leído. En realidad, era abogado. Conocía los hechos subyacentes, pero también sabía que los hechos no dan de qué hablar. Los que sí dan de qué hablar es la emoción.
See, the original premise of social media was that it was going to bring us all together, make the world more open and tolerant and fair ... And it did some of that. But the social media algorithms have never been built to distinguish between what's true or false, what's good or bad for society, what's prosocial and what's antisocial. That's just not what those algorithms do. A lot of what they do is measure engagement: clicks, comments, shares, retweets, that kind of thing. And if you want your content to get engagement, it has to spark emotion, specifically, what behavioral scientists call "high-arousal emotion."
La premisa original de las redes sociales era que iban a unirnos a hacer un mundo más abierto, tolerante y justo... Y algo de eso sí hizo. Pero los algoritmos no se crearon para distinguir lo que es verdad o mentira, lo que es bueno o malo para la sociedad, lo que es prosocial, lo que es antisocial. Eso no es lo que hacen los algoritmos. Lo que hacen es medir la interacción: clics, comentarios, qué se comparte, retweets, todas esas cosas. Y si quiere que su contenido genere interacción, tiene que provocar emoción, específicamente lo que los expertos de la conducta llaman: "de alta excitación".
Now, "high arousal" doesn't only mean sexual arousal, although it's the internet, obviously that works. It means anything, positive or negative, that gets people's hearts pumping. So I would sit with these propagandists, not just the guy in California, but dozens of them, and I would watch as they did this again and again successfully, not because they were Russian hackers, not because they were tech prodigies, not because they had unique political insights -- just because they understood how social media worked, and they were willing to exploit it to their advantage.
"Alta excitación" no se refiere solo a la sexual, aunque tratándose de internet eso obviamente funciona. Se refiere a cualquier cosa, positiva o negativa, que nos eleve el pulso. Me senté con estos propagandistas, docenas de ellos, no solo el de California, y miraba mientras hacían esto una y otra vez, con éxito, no porque fueran hackers rusos o porque fueran genios tecnológicos, no porque tuvieran conocimientos políticos... sino porque sabían cómo funcionaban las redes sociales y estaban dispuestos a usarlo a su favor.
Now, at first I was able to tell myself this was a fringe phenomenon, something that was relegated to the internet. But there's really no separation anymore between the internet and everything else. This is an ad that ran on multiple TV stations during the 2018 congressional elections, alleging with very little evidence that one of the candidates was in the pocket of international manipulator George Soros, who is awkwardly photoshopped here next to stacks of cash. This is a tweet from the President of the United States, alleging, again with no evidence, that American politics is being manipulated by George Soros. This stuff that once seemed so shocking and marginal and, frankly, just ignorable, it's now so normalized that we hardly even notice it.
Al principio me decía que era un fenómeno aislado, algo que quedaba relegado al internet. Pero, en realidad, ya no hay separación entre el internet y todo lo demás. Este anuncio recorrió múltiples cadenas durante las elecciones al congreso del 2018, afirmando, sin casi pruebas, que el manipulador internacional, George Soros, tenía en el bolsillo a uno de los candidatos, quien aparece en este montaje al lado de varias pilas de dinero. Este es un tuit del presidente de EE. UU. afirmando, de nuevo, sin pruebas, que la política estadounidense está siendo manipulada por George Soros. Todo esto que antes parecía escandaloso, marginal y, francamente, ignorable, ahora está tan normalizado que casi ni lo notamos.
So I spent about three years in this world. I talked to a lot of people. Some of them seemed to have no core beliefs at all. They just seemed to be betting, perfectly rationally, that if they wanted to make some money online or get some attention online, they should just be as outrageous as possible. But I talked to other people who were true ideologues. And to be clear, their ideology was not traditional conservatism. These were people who wanted to revoke female suffrage. These were people who wanted to go back to racial segregation. Some of them wanted to do away with democracy altogether. Now, obviously these people were not born believing these things. They didn't pick them up in elementary school. A lot of them, before they went down some internet rabbit hole, they had been libertarian or they had been socialist or they had been something else entirely. So what was going on?
Pasé tres años en este mundo. Hablé con mucha gente. Algunos parecen no tener valores fundamentales. Simplemente parecen estar apostando de manera racional a que si ellos querían hacer dinero en línea o conseguir atención online, deberían ser lo más extravagantes posible. Pero hablé con otros quienes eran verdaderos ideólogos. Y aclaro, su ideología no era conservadurismo tradicional. Eran personas que querían revocar el sufragio femenino. Eran personas que querían volver a la segregación racial. Algunos querían eliminar la democracia de raíz. Obviamente, esta gente no nacieron creyendo estas cosas. No lo aprendieron en el colegio. Muchos de ellos, antes de entrar en internet, habían sido libertarios o socialistas o algo completamente diferente. ¿Qué estaba pasando?
Well, I can't generalize about every case, but a lot of the people I spoke to, they seem to have a combination of a high IQ and a low EQ. They seem to take comfort in anonymous, online spaces rather than connecting in the real world. So often they would retreat to these message boards or these subreddits, where their worst impulses would be magnified. They might start out saying something just as a sick joke, and then they would get so much positive reinforcement for that joke, so many meaningless "internet points," as they called it, that they might start believing their own joke.
No puedo generalizar cada caso, pero muchos con los que hablé, parecían tener una combinación de coeficiente intelectual alto y bajo. Parecían estar más cómodos en espacios anónimos en línea en vez de estar conectados en el mundo real. A menudo se refugiaban en esos tableros de mensajes o en esos subreddits, donde se magnificaban sus peores impulsos. Puede que comiencen con alguna broma de mal gusto y después recibirían tal refuerzo positivo por esa broma, tantos puntos de internet sin sentido, que puede que comiencen a creerse sus propias bromas.
I talked a lot with one young woman who grew up in New Jersey, and then after high school, she moved to a new place and suddenly she just felt alienated and cut off and started retreating into her phone. She found some of these spaces on the internet where people would post the most shocking, heinous things. And she found this stuff really off-putting but also kind of engrossing, kind of like she couldn't look away from it. She started interacting with people in these online spaces, and they made her feel smart, they made her feel validated. She started feeling a sense of community, started wondering if maybe some of these shocking memes might actually contain a kernel of truth. A few months later, she was in a car with some of her new internet friends headed to Charlottesville, Virginia, to march with torches in the name of the white race. She'd gone, in a few months, from Obama supporter to fully radicalized white supremacist.
Hablé mucho con una joven que creció en Nueva Jersey y después del bachillerato se mudó y de repente se sintió alienada y aislada, y comenzó a refugiarse en su celular. Encontró alguno de estos espacios en internet donde la gente publicaba las cosas más atroces. Todo esto le pareció repulsivo pero a la vez interesante, no podía apartar la mirada. Comenzó a interactuar con gente en estos espacios y la hicieron sentir inteligente, la hicieron sentir válida. Comenzó a sentirse parte de una comunidad, comenzó a preguntarse si quizás alguno de esos memes podría contener algo de verdad. Meses después, estaba en un carro con sus nuevos amigos de internet camino a Charlottesville, en Virginia, para marchar con antorchas por la raza blanca. En pocos meses, había pasado de apoyar a Obama a ser una radical defensora de la supremacía blanca.
Now, in her particular case, she actually was able to find her way out of the cult of white supremacy. But a lot of the people I spoke to were not. And just to be clear: I was never so convinced that I had to find common ground with every single person I spoke to that I was willing to say, "You know what, man, you're a fascist propagandist, I'm not, whatever, let's just hug it out, all our differences will melt away." No, absolutely not. But I did become convinced that we cannot just look away from this stuff. We have to try to understand it, because only by understanding it can we even start to inoculate ourselves against it.
En su caso en particular, ella fue capaz de salir de la secta de la supremacía blanca. Pero mucha gente con la que hablé no. Para ser claro: Nunca había estado tan convencido de que tenía que encontrar algo en común con todos con los que hablé y estar dispuesto a decir: "¿Sabes qué? Tú eres un propagandista fascista, yo no, pero da igual, démonos la mano y nuestras diferencias desaparecerán". No, por supuesto que no. Pero sí me convencí de que no podía mirar para otro lado. Tenemos que intentar entenderlo porque solo al entenderlo podemos vacunarnos contra ello.
In my three years in this world, I got a few nasty phone calls, even some threats, but it wasn't a fraction of what female journalists get on this beat. And yeah, I am Jewish, although, weirdly, a lot of the Nazis couldn't tell I was Jewish, which I frankly just found kind of disappointing.
Durante mis tres años en este mundo, recibí llamadas crueles, incluso amenazas, pero tan solo fue una parte de lo que reciben las periodistas. Y sí, yo soy judío, aunque, irónicamente, muchos de los Nazis no se dieron cuenta, lo que, la verdad, me pareció decepcionante.
(Laughter)
(Risas)
Seriously, like, your whole job is being a professional anti-Semite. Nothing about me is tipping you off at all? Nothing?
En serio, se dedica a ser un antisemita profesional. ¿No ve nada que me delate? ¿Nada?
(Laughter)
(Risas)
This is not a secret. My name is Andrew Marantz, I write for "The New Yorker," my personality type is like if a Seinfeld episode was taped at the Park Slope Food Coop. Nothing?
No es ningún secreto. Me llamo Andrew Marantz, escribo para el "The New Yorker" mi personalidad es como si pusieran un episodio de Seinfeld en Park Slope Food Coop. ¿Nada?
(Laughter)
(Risas)
Anyway, look -- ultimately, it would be nice if there were, like, a simple formula: smartphone plus alienated kid equals 12 percent chance of Nazi. It's obviously not that simple. And in my writing, I'm much more comfortable being descriptive, not prescriptive. But this is TED, so let's get practical. I want to share a few suggestions of things that citizens of the internet like you and I might be able to do to make things a little bit less toxic.
En fin... básicamente, estaría bien que hubiera una fórmula simple: un smartphone más un niño aislado es igual a un 12 % de posibilidades de ser Nazi. Obviamente no es tan simple. En mi forma de escribir, me resulta mucho más cómodo ser descriptivo, no prescriptivo. Pero esto es TED, así que seamos prácticos. Quiero compartir unas sugerencias de cosas que ciudadanos de internet como usted y como yo podemos hacer para que las cosas no sean tan tóxicas. [Sugerencia 1]
So the first one is to be a smart skeptic. So, I think there are two kinds of skepticism. And I don't want to drown you in technical epistemological information here, but I call them smart and dumb skepticism. So, smart skepticism: thinking for yourself, questioning every claim, demanding evidence -- great, that's real skepticism.
Lo primero es ser un inteligente escéptico. Creo que hay dos tipos de escepticismo. No los quiero aburrir con información técnica que necesite explicación, pero lo llamo escepticismo inteligente y estúpido. Escepticismo inteligente: pensar por uno mismo, dudar de toda afirmación, demandar pruebas... es decir, escepticismo de verdad.
Dumb skepticism: it sounds like skepticism, but it's actually closer to knee-jerk contrarianism. Everyone says the earth is round, you say it's flat. Everyone says racism is bad, you say, "I dunno, I'm skeptical about that." I cannot tell you how many young white men I have spoken to in the last few years who have said, "You know, the media, my teachers, they're all trying to indoctrinate me into believing in male privilege and white privilege, but I don't know about that, man, I don't think so." Guys -- contrarian white teens of the world -- look: if you are being a round earth skeptic and a male privilege skeptic and a racism is bad skeptic, you're not being a skeptic, you're being a jerk.
Escepticismo estúpido: parece escepticismo, pero está más cerca de ser espíritu de contradicción. Dicen que la tierra es redonda, tú dices que es plana. Dicen que el racismo es malo, tú dices: "No sé, soy escéptico en el tema". No tienen una idea de cuántos jóvenes blancos me han dicho en los últimos años: "Los medios, mis profesores todos intentan adoctrinarme sobre el privilegio masculino y el privilegio blanco pero no sé, yo no lo creo". Adolescentes blancos del mundo, escuchen: si son escépticos acerca de que la tierra es redonda, el privilegio masculino o sobre que el racismo es malo, no están siendo escépticos sino imbéciles".
(Applause)
(Aplausos)
It's great to be independent-minded, we all should be independent-minded, but just be smart about it.
Está bien pensar por uno mismo, todos deberíamos hacerlo, pero hay que ser inteligentes. [Sugerencia 2]
So this next one is about free speech. You will hear smart, accomplished people who will say, "Well, I'm pro-free speech," and they say it in this way that it's like they're settling a debate, when actually, that is the very beginning of any meaningful conversation. All the interesting stuff happens after that point. OK, you're pro-free speech. What does that mean? Does it mean that David Duke and Richard Spencer need to have active Twitter accounts? Does it mean that anyone can harass anyone else online for any reason? You know, I looked through the entire list of TED speakers this year. I didn't find a single round earth skeptic. Is that a violation of free speech norms? Look, we're all pro-free speech, it's wonderful to be pro-free speech, but if that's all you know how to say again and again, you're standing in the way of a more productive conversation.
La siguiente es libertad de expresión. Escucharán a gente inteligente decir: "Estoy a favor de la libertad de expresión" y lo dirán como si estuvieran comenzando un debate, cuando en realidad es el inicio de cualquier conversación importante. Todas las cosas importantes ocurren a partir de allí. Bien, está a favor, ¿y eso qué significa? ¿Significa que David Duke y Richard Spencer tienen que tener cuentas en Twitter? ¿Significa que podemos acosar en línea a cualquier persona por cualquier razón? He visto la lista completa de oradores de TED este año. No encontré a ningún terraplanista. ¿Eso es una violación de la libertad de expresión? Todos estamos a favor y es maravilloso estar a favor de la libertad de expresión, pero si es lo único que dicen una y otra vez, se interpondrán a una conversación más productiva. [Sugerencia 3]
Making decency cool again, so ... Great!
Hacer que la decencia vuelva a estar de moda. ¡Genial!
(Applause)
(Aplausos)
Yeah. I don't even need to explain it. So in my research, I would go to Reddit or YouTube or Facebook, and I would search for "sharia law" or I would search for "the Holocaust," and you might be able to guess what the algorithms showed me, right? "Is sharia law sweeping across the United States?" "Did the Holocaust really happen?" Dumb skepticism. So we've ended up in this bizarre dynamic online, where some people see bigoted propaganda as being edgy or being dangerous and cool, and people see basic truth and human decency as pearl-clutching or virtue-signaling or just boring. And the social media algorithms, whether intentionally or not, they have incentivized this, because bigoted propaganda is great for engagement. Everyone clicks on it, everyone comments on it, whether they love it or they hate it. So the number one thing that has to happen here is social networks need to fix their platforms.
Sí. Ni siquiera tengo que explicarlo. En mi investigación, entré a Reddit, o a YouTube o a Facebook, y busqué "ley sharia" o "el Holocausto" y se pueden hacer una idea de lo que los algoritmos me mostraron. "¿Se está extendiendo la ley sharia en EE. UU.?" "¿De verdad ocurrió el Holocausto?" Escepticismo estúpido. Estamos en una extraña dinámica en línea donde vemos propaganda intolerante como provocadora, peligrosa y agradable, y vemos la verdad fundamental y la decencia como chocante como muestra de virtud o simplemente aburrida. Los algoritmos de las redes sociales, intencionadamente o no, lo han incentivado, porque la propaganda intolerante es genial para la interacción. Todo el mundo clica, todo el mundo comenta, tanto si les gusta como si lo odian. Lo primero que tiene que pasar es que las redes sociales arreglen sus plataformas.
(Applause)
(Aplausos)
So if you're listening to my voice and you work at a social media company or you invest in one or, I don't know, own one, this tip is for you. If you have been optimizing for maximum emotional engagement and maximum emotional engagement turns out to be actively harming the world, it's time to optimize for something else.
Si me están escuchando y trabajan para una red social o invierten en una o, no sé, es dueño de una, este consejo va para Uds. Si están optimizando para una interacción emocional y esta interacción resulta que está dañando el mundo, es el momento de optimizar otra cosa.
(Applause)
(Aplausos)
But in addition to putting pressure on them to do that and waiting for them and hoping that they'll do that, there's some stuff that the rest of us can do, too. So, we can create some better pathways or suggest some better pathways for angsty teens to go down. If you see something that you think is really creative and thoughtful and you want to share that thing, you can share that thing, even if it's not flooding you with high arousal emotion. Now that is a very small step, I realize, but in the aggregate, this stuff does matter, because these algorithms, as powerful as they are, they are taking their behavioral cues from us.
Pero además de presionarlos para que lo hagan y esperar y desear que lo hagan, hay algo que nosotros podemos hacer. Podemos crear mejores caminos o sugerir mejores caminos para los adolescentes enfadados. Si ven algo que creen que es creativo y considerado y quieren compartirlo, sepan que pueden compartirlo aunque no les invada una alta excitación. Sé que es un paso pequeño pero en conjunto esto importa, porque estos algoritmos por muy poderosos que sean toman su comportamiento de nosotros.
So let me leave you with this. You know, a few years ago it was really fashionable to say that the internet was a revolutionary tool that was going to bring us all together. It's now more fashionable to say that the internet is a huge, irredeemable dumpster fire. Neither caricature is really true. We know the internet is just too vast and complex to be all good or all bad. And the danger with these ways of thinking, whether it's the utopian view that the internet will inevitably save us or the dystopian view that it will inevitably destroy us, either way, we're letting ourselves off the hook. There is nothing inevitable about our future. The internet is made of people. People make decisions at social media companies. People make hashtags trend or not trend. People make societies progress or regress. When we internalize that fact, we can stop waiting for some inevitable future to arrive and actually get to work now.
Los dejo con esto. Hace algunos años, estaba muy de moda decir que internet era una herramienta revolucionaria que iba a unirnos. Ahora está más de moda decir que el internet es un basurero irreversible. Ninguna afirmación es verdadera. Sabemos que el internet es muy vasto y complejo como para ser bueno o malo. Y el peligro de pensar así, bien sea la visión utópica de que internet nos salvará o la visión distópica de que nos destruirá, es que nos estamos saliendo de rositas. No hay nada inevitable en nuestro futuro. El internet lo hace la gente. La gente toma las decisiones en las empresas de redes sociales. La gente hace que los hashtags sean o no tendencia. La gente hace que la sociedad avance o retroceda. Cuando interioricemos esto, podremos dejar de esperar a que llegue el inevitable futuro y ponernos a trabajar ahora.
You know, we've all been taught that the arc of the moral universe is long but that it bends toward justice. Maybe. Maybe it will. But that has always been an aspiration. It is not a guarantee. The arc doesn't bend itself. It's not bent inevitably by some mysterious force. The real truth, which is scarier and also more liberating, is that we bend it.
A todos nos han enseñado que el arco del universo moral es grande, pero tiende a la justicia. Quizás. Quizás lo haga. Pero eso siempre ha sido una aspiración. No es una garantía. El arco no se inclina solo. No hay una fuerza misteriosa que lo incline inevitablemente. La única verdad, que asusta, pero a la vez es liberadora, es que nosotros lo inclinamos.
Thank you.
Gracias.
(Applause)
(Aplausos)