I spent the past three years talking to some of the worst people on the internet. Now, if you've been online recently, you may have noticed that there's a lot of toxic garbage out there: racist memes, misogynist propaganda, viral misinformation. So I wanted to know who was making this stuff. I wanted to understand how they were spreading it. Ultimately, I wanted to know what kind of impact it might be having on our society. So in 2016, I started tracing some of these memes back to their source, back to the people who were making them or who were making them go viral. I'd approach those people and say, "Hey, I'm a journalist. Can I come watch you do what you do?" Now, often the response would be, "Why in hell would I want to talk to some low-t soy-boy Brooklyn globalist Jew cuck who's in cahoots with the Democrat Party?"
私は過去3年間 ネット上で最悪の人々を 取材してきました 最近のネットをのぞいてみると 有害なゴミ情報が たくさんあるのに気づくでしょう 蔓延する人種差別的なメッセージ 女性差別のプロパガンダ 拡散される偽情報 そこで誰がこんなものを作って どうやって広めているのか 調べようと思いました それが社会にどんな影響を与えているのかを 知りたかったのです 2016年に こういったメッセージの元を辿って それを作った人や広めた人を 突き止め始め 彼らに連絡を取りました 「記者なんだけど 君のしていることを見に行ってもいい?」 ほとんどはこんな返事でした 「なんで話さなきゃいけないんだ? 男性ホルモン不足の女々しい 民主党と共謀している グローバル主義のユダヤ野郎なんかと」
(Laughter)
(笑)
To which my response would be, "Look, man, that's only 57 percent true."
それで私は答えます 「そんなの 57%しか合ってないよ」
(Laughter)
(笑)
But often I got the opposite response. "Yeah, sure, come on by." So that's how I ended up in the living room of a social media propagandist in Southern California. He was a married white guy in his late 30s. He had a table in front of him with a mug of coffee, a laptop for tweeting, a phone for texting and an iPad for livestreaming to Periscope and YouTube. That was it. And yet, with those tools, he was able to propel his fringe, noxious talking points into the heart of the American conversation.
でも時々逆の返事もありました 「いいよ 来てみなよ」 そうして私は南カリフォルニアの ソーシャルメディア虚偽宣伝活動家を 訪ねることになりました 30代後半の 既婚の白人男性でした 彼の前にはテーブルがあり その上にはコーヒーと ツイート用のノートパソコンと ショートメッセージ用の携帯と YouTubeとPeriscopeの動画配信用 iPadがありました それだけです それだけの道具で彼は 非主流の有害な論点を アメリカで起きている議論の中心へ まき散らすことができたのです
For example, one of the days I was there, a bomb had just exploded in New York, and the guy accused of planting the bomb had a Muslim-sounding name. Now, to the propagandist in California, this seemed like an opportunity, because one of the things he wanted was for the US to cut off almost all immigration, especially from Muslim-majority countries. So he started livestreaming, getting his followers worked up into a frenzy about how the open borders agenda was going to kill us all and asking them to tweet about this, and use specific hashtags, trying to get those hashtags trending. And tweet they did -- hundreds and hundreds of tweets, a lot of them featuring images like this one.
例えば 私がそこにいたある日 ニューヨークで 爆弾事件があったのですが 犯人だと疑われた人は イスラム風の名前でした そのカリフォルニアの虚偽宣伝活動家には この事件はチャンスでした なぜなら彼の目標の一つは ほぼ全ての移民 特にイスラム系の移民を アメリカに入れないようにすることでしたから そこで彼は動画配信を始め フォロワーを煽り立てて 開放的な移民政策では みんな殺されると訴え 特定のハッシュタグを付けて ツイートするよう頼みました そのハッシュタグが トレンド入りするように こうして呟かれる 何百ものツイートの多くが こんな画像と一緒になっています
So that's George Soros. He's a Hungarian billionaire and philanthropist, and in the minds of some conspiracists online, George Soros is like a globalist bogeyman, one of a few elites who is secretly manipulating all of global affairs. Now, just to pause here: if this idea sounds familiar to you, that there are a few elites who control the world and a lot of them happen to be rich Jews, that's because it is one of the most anti-Semitic tropes in existence. I should also mention that the guy in New York who planted that bomb, he was an American citizen. So whatever else was going on there, immigration was not the main issue.
この人はジョージ・ソロスです ハンガリーの資産家で慈善家 そして一部の陰謀論好きの人々の間では グローバル主義の黒幕で 世界を影で操るー 一握りのエリートの1人 ということになっています ちょっと待って下さい こんな話聞いたことありませんか? 世界をコントロールする 一握りのエリートがいて その多くはなぜか ユダヤ人の富豪であると これは反ユダヤ主義者が使う 決まり文句の1つです ちなみにお伝えしておくと ニューヨークの爆弾犯は アメリカ市民でした どんな事情があったにせよ 移民は事件と関係がなかったのです
And the propagandist in California, he understood all this. He was a well-read guy. He was actually a lawyer. He knew the underlying facts, but he also knew that facts do not drive conversation online. What drives conversation online is emotion.
カリフォルニアの宣伝活動家は そんなことは知っていました 彼は博識で しかも法律家でした 彼は実情をわかっていながら 同時に 事実はネットを動かさないと 知っていたのです ネット上で人々を動かすのは 感情だと
See, the original premise of social media was that it was going to bring us all together, make the world more open and tolerant and fair ... And it did some of that. But the social media algorithms have never been built to distinguish between what's true or false, what's good or bad for society, what's prosocial and what's antisocial. That's just not what those algorithms do. A lot of what they do is measure engagement: clicks, comments, shares, retweets, that kind of thing. And if you want your content to get engagement, it has to spark emotion, specifically, what behavioral scientists call "high-arousal emotion."
元々ソーシャルメディアに 期待されたのは 人々をひとつにし 世界をもっとオープンで寛容で 公平な場所にするということでした その一部は叶えられましたが ソーシャルメディアの アルゴリズムというのは 真か嘘か 社会に良いか悪いか 向社会的か反社会的かを 区別するようには設計されていません アルゴリズムは そんな仕事はしません アルゴリズムがするのは 反応の測定です クリック数 コメント数 シェア数 リツイート数のような そしてもしコンテンツへの 反応を良くしたければ 感情を刺激する必要があり 特に行動科学者の言う 「興奮度の高い感情」に訴えることです
Now, "high arousal" doesn't only mean sexual arousal, although it's the internet, obviously that works. It means anything, positive or negative, that gets people's hearts pumping. So I would sit with these propagandists, not just the guy in California, but dozens of them, and I would watch as they did this again and again successfully, not because they were Russian hackers, not because they were tech prodigies, not because they had unique political insights -- just because they understood how social media worked, and they were willing to exploit it to their advantage.
興奮は性的興奮ばかりではありませんが ネット上なのでもちろん 性的なものは効果大です 良くも悪くも とにかく ドキドキさせるものということです 私は虚偽宣伝活動家たちと 過ごしてきて あのカリフォルニアの人だけでなく 何十人もの人たちが その仕組みを見事に利用するのを 何度も見届けました 彼らはロシアのハッカーでもなく コンピューターの天才でもなく 特別な政治的見識もありませんが ただソーシャルメディアの 仕組みを知っており それを利己的に悪用する気が あるというだけです
Now, at first I was able to tell myself this was a fringe phenomenon, something that was relegated to the internet. But there's really no separation anymore between the internet and everything else. This is an ad that ran on multiple TV stations during the 2018 congressional elections, alleging with very little evidence that one of the candidates was in the pocket of international manipulator George Soros, who is awkwardly photoshopped here next to stacks of cash. This is a tweet from the President of the United States, alleging, again with no evidence, that American politics is being manipulated by George Soros. This stuff that once seemed so shocking and marginal and, frankly, just ignorable, it's now so normalized that we hardly even notice it.
初めは自分に言い聞かせていました これはネット上だけで起きる 些末な現象だと でも今やネットと他の世界に 区別がなくなってしまいました この広告は2018年の議会選挙の時に 複数のテレビ局で流されたものです ほとんど何の証拠もなしに ある候補者が 世界の黒幕ソロスから 金をもらっていると断定していました 不自然に札束と合成された写真ですね これはアメリカ大統領のツイートですが ここでもまた証拠もなく アメリカ政治はソロスに操られている と言っています こういうのは 以前は過激でくだらない 無視すべきものでしたが 今や気づかれないほどに ありふれたものになりました
So I spent about three years in this world. I talked to a lot of people. Some of them seemed to have no core beliefs at all. They just seemed to be betting, perfectly rationally, that if they wanted to make some money online or get some attention online, they should just be as outrageous as possible. But I talked to other people who were true ideologues. And to be clear, their ideology was not traditional conservatism. These were people who wanted to revoke female suffrage. These were people who wanted to go back to racial segregation. Some of them wanted to do away with democracy altogether. Now, obviously these people were not born believing these things. They didn't pick them up in elementary school. A lot of them, before they went down some internet rabbit hole, they had been libertarian or they had been socialist or they had been something else entirely. So what was going on?
私はこの世界で3年間を過ごし たくさんの人と会話しました 彼らの一部は何の信念も 持っていませんでした 彼らは極めて理性的に賭けを打ち 単にネット上でお金を稼ぎたいとか 注目を浴びたいと思った時に できるだけ挑発的なものを作って 広めるのです でも確固たる思想を 持つ人もいました 断っておきますが彼らの思想は 伝統的な保守主義ではありません 女性の参政権を奪いたいとか 人種分離政策を復活させたい という人たちです 民主主義そのものを根絶したい という人たちもいました もちろん 生まつき そういう思想だったわけではなく 小学校でそんな思想に 染まったわけでもありません 彼らの多くはネットの 不思議の国へと来る前は 自由主義者や社会主義者のような まったく別の主義だったのです なぜこんなことに?
Well, I can't generalize about every case, but a lot of the people I spoke to, they seem to have a combination of a high IQ and a low EQ. They seem to take comfort in anonymous, online spaces rather than connecting in the real world. So often they would retreat to these message boards or these subreddits, where their worst impulses would be magnified. They might start out saying something just as a sick joke, and then they would get so much positive reinforcement for that joke, so many meaningless "internet points," as they called it, that they might start believing their own joke.
すべてのケースを 一般論で括れませんが 私が話した人々の多くは 高いIQと低いEQを 持っているようでした 彼らにとっては ネット上で 匿名で生きる方が 現実の人間関係より 快適なようでした そうしてネット上の 掲示板のようなところに引きこもり 病的傾向が 増幅されることになります そこで悪趣味な馬鹿話を言い 何度も肯定的反応を受け サイト上の意味のないポイントを 稼ぐうちに 自分でその馬鹿話を 信じるようになるのでしょう
I talked a lot with one young woman who grew up in New Jersey, and then after high school, she moved to a new place and suddenly she just felt alienated and cut off and started retreating into her phone. She found some of these spaces on the internet where people would post the most shocking, heinous things. And she found this stuff really off-putting but also kind of engrossing, kind of like she couldn't look away from it. She started interacting with people in these online spaces, and they made her feel smart, they made her feel validated. She started feeling a sense of community, started wondering if maybe some of these shocking memes might actually contain a kernel of truth. A few months later, she was in a car with some of her new internet friends headed to Charlottesville, Virginia, to march with torches in the name of the white race. She'd gone, in a few months, from Obama supporter to fully radicalized white supremacist.
私が何度も会話した ニュージャージー出身の若い女性は 高校卒業後の引越先に馴染めずに 突然孤立し社会から 切り離されたように感じ スマホに逃避する ようになりました 彼女が出会った あるウェブサイトでは 強烈で悪質なものばかり 投稿されていました 彼女はそれを 本当に不快だと思いながら 同時に ある意味で惹きつけられ 目を離せないとも感じました 彼女はそのウェブサイトで 交流を始め 自分が賢くなり 認められたように感じ 共同体意識を感じ始め そういう強烈な話にも 一抹の真理があるのではと 思うようになりました 数か月後には 彼女は 新しいネットの友人達と車に乗って 白人至上主義のデモに参加するため バージニア州のシャーロッツビルへ 向かっていました 彼女はたった数か月で オバマ支持者から 急進的な白人至上主義者へと 変貌していたのです
Now, in her particular case, she actually was able to find her way out of the cult of white supremacy. But a lot of the people I spoke to were not. And just to be clear: I was never so convinced that I had to find common ground with every single person I spoke to that I was willing to say, "You know what, man, you're a fascist propagandist, I'm not, whatever, let's just hug it out, all our differences will melt away." No, absolutely not. But I did become convinced that we cannot just look away from this stuff. We have to try to understand it, because only by understanding it can we even start to inoculate ourselves against it.
彼女の場合は 白人至上主義のカルトから 抜け出すことができましたが 多くの人は そうではありませんでした それから念のために言うと 私は決して 話した人全員と 共通点を見つけられるとは 思いませんし こんなことは言いません 「君はファシストのプロパガンダ屋で 私は違うけど そんなこといいからハグしようよ 違いなんてなくなるさ」 いいえ 明らかに無理です でも ただ目を逸らすわけには いかないと思うようになりました 我々はこの事態を 理解しなければいけません 理解しなければ 身を守れないからです
In my three years in this world, I got a few nasty phone calls, even some threats, but it wasn't a fraction of what female journalists get on this beat. And yeah, I am Jewish, although, weirdly, a lot of the Nazis couldn't tell I was Jewish, which I frankly just found kind of disappointing.
この世界にいた3年間で 何件かの嫌がらせ電話や 時に脅迫も受けましたが それは同業の女性記者が受けるものに 比べれば何でもありません 確かに 私はユダヤ系ですが おかしな話 ネオナチ主義者は 私がユダヤ系だと気づきませんでした 正直 ちょっとがっかりしました
(Laughter)
(笑)
Seriously, like, your whole job is being a professional anti-Semite. Nothing about me is tipping you off at all? Nothing?
反ユダヤのプロであるはずなのに 私を見てピンとこないのでしょうか? 全然?
(Laughter)
(笑)
This is not a secret. My name is Andrew Marantz, I write for "The New Yorker," my personality type is like if a Seinfeld episode was taped at the Park Slope Food Coop. Nothing?
隠してもいません マランツというユダヤ系の苗字で 『ザ・ニューヨーカー』の記事を書いていて 生協を舞台にした 『となりのサインフェルド』に 出てきそうな人間です それでも駄目?
(Laughter)
(笑)
Anyway, look -- ultimately, it would be nice if there were, like, a simple formula: smartphone plus alienated kid equals 12 percent chance of Nazi. It's obviously not that simple. And in my writing, I'm much more comfortable being descriptive, not prescriptive. But this is TED, so let's get practical. I want to share a few suggestions of things that citizens of the internet like you and I might be able to do to make things a little bit less toxic.
それはそれとして 単純な計算式があれば ことは簡単です 孤独な子供 + スマホ = ネオナチ化率12% 現実は そう単純ではありません 私は記事を書く時には 「べき」論よりも「である」論を 書くほうが得意ですが 今回はTEDなので 実践的にいきましょう 私がお伝えしたいのは 私や皆さんのようなネット市民が ネットを少しでもマシにするために できることです
So the first one is to be a smart skeptic. So, I think there are two kinds of skepticism. And I don't want to drown you in technical epistemological information here, but I call them smart and dumb skepticism. So, smart skepticism: thinking for yourself, questioning every claim, demanding evidence -- great, that's real skepticism.
まず1つ目は「賢い懐疑論者」になることです 懐疑論には2種類あると思います 認識論の専門用語で皆さんを 煩わせたくはありませんが それはつまり― 「賢い懐疑論」と「ダメ懐疑論」です 「賢い懐疑論」は 自分の頭で考え あらゆる主張に疑問を持ち 根拠を確かめる これが本物の懐疑論です
Dumb skepticism: it sounds like skepticism, but it's actually closer to knee-jerk contrarianism. Everyone says the earth is round, you say it's flat. Everyone says racism is bad, you say, "I dunno, I'm skeptical about that." I cannot tell you how many young white men I have spoken to in the last few years who have said, "You know, the media, my teachers, they're all trying to indoctrinate me into believing in male privilege and white privilege, but I don't know about that, man, I don't think so." Guys -- contrarian white teens of the world -- look: if you are being a round earth skeptic and a male privilege skeptic and a racism is bad skeptic, you're not being a skeptic, you're being a jerk.
「ダメ懐疑論」は 懐疑論のように見えますが 実際には条件反射的な天邪鬼です 皆が地球は丸いと言うと 地球は平らだと言い 皆が人種差別は悪いと言うと 「そうかな?疑わしいな」と言う 私がこの数年で話した 若い白人男性には こんなことをいう人が 山ほどいました 「メディアや教師はそろって 俺たちを洗脳しようとしてくる 男や白人は 特権的に扱われているって でも俺はそうは思わないね」 何にでも反対したがる 特に世界中の十代の白人に言いたい もし 地球は丸くないとか 社会は男性優位じゃないとか 人種差別は悪くないとか 言うのなら 君は懐疑論者じゃなく ただのくそ野郎です
(Applause)
(拍手)
It's great to be independent-minded, we all should be independent-minded, but just be smart about it.
主体性を持つことは大切で 誰もがそうあるべきですが 賢明な主体性を持ちましょう
So this next one is about free speech. You will hear smart, accomplished people who will say, "Well, I'm pro-free speech," and they say it in this way that it's like they're settling a debate, when actually, that is the very beginning of any meaningful conversation. All the interesting stuff happens after that point. OK, you're pro-free speech. What does that mean? Does it mean that David Duke and Richard Spencer need to have active Twitter accounts? Does it mean that anyone can harass anyone else online for any reason? You know, I looked through the entire list of TED speakers this year. I didn't find a single round earth skeptic. Is that a violation of free speech norms? Look, we're all pro-free speech, it's wonderful to be pro-free speech, but if that's all you know how to say again and again, you're standing in the way of a more productive conversation.
次は「言論の自由」についてです 時々インテリ系の人たちが 「言論の自由だから」とー それで議論が決着するかのように 言うことがありますが それは有意義な会話における 単なる前提に過ぎません 意義ある会話が始まるのは その後です では「言論の自由」とは何でしょう? それは差別主義者や 白人至上主義者にも ツイッターアカウントを 与えるべきということでしょうか ネット上では誰にどんな 嫌がらせを言ってもいいー そういうことでしょうか? 今年のTED講演者リストを チェックしたところ 地球が丸いことを疑う人は 1人もいませんでしたが これは言論の自由の 侵害なのでしょうか? 私たちは言論の自由を支持していますし それは素晴らしいことですが ただそれを繰り返すだけなら かえって生産的な議論を 妨げることになります
Making decency cool again, so ... Great!
「良識を再びカッコイイものにしよう」 いいでしょう
(Applause)
(拍手)
Yeah. I don't even need to explain it. So in my research, I would go to Reddit or YouTube or Facebook, and I would search for "sharia law" or I would search for "the Holocaust," and you might be able to guess what the algorithms showed me, right? "Is sharia law sweeping across the United States?" "Did the Holocaust really happen?" Dumb skepticism. So we've ended up in this bizarre dynamic online, where some people see bigoted propaganda as being edgy or being dangerous and cool, and people see basic truth and human decency as pearl-clutching or virtue-signaling or just boring. And the social media algorithms, whether intentionally or not, they have incentivized this, because bigoted propaganda is great for engagement. Everyone clicks on it, everyone comments on it, whether they love it or they hate it. So the number one thing that has to happen here is social networks need to fix their platforms.
説明するまでもないですね 私が調査のためにRedditや YouTubeやFacebookで 例えば「シャリア(イスラム)法」とか 「ホロコースト」と検索すると どんな検索結果が表示されるか 想像できるかもしれませんが 「シャリア法がアメリカ中に 広がりつつある?」 「ホロコーストって本当にあったの?」 「ダメ懐疑論」ですね ネットは奇妙な状況に 陥っています 偏見のあるプロパガンダが 最先端とか危険で かっこいいなどと思われ 基本的な真実や 人としての良識が 説教臭いとか偽善的とか退屈だと 見なされてしまうのです さらにソーシャルメディアは 意図的であるにせよないにせよ それを煽る仕組みになっています 偏見のあるプロパガンダは 反応を引き起こしやすいからです その記事を好きでも嫌いでも 皆がクリックしたり コメントしたりします ですから1番の改善方法は ソーシャルネットワークが その仕組みを改めることです
(Applause)
(拍手)
So if you're listening to my voice and you work at a social media company or you invest in one or, I don't know, own one, this tip is for you. If you have been optimizing for maximum emotional engagement and maximum emotional engagement turns out to be actively harming the world, it's time to optimize for something else.
もしこの話を聞いてる中に SNSの会社で働いていたり 投資していたり オーナーだという人がいるなら ぜひご検討ください 人々の感情的反応の最大化を 追い求めてきたが 感情的反応の最大化が 社会に悪影響を与えているというなら 最大化するものを 変えるべきでしょう
(Applause)
(拍手)
But in addition to putting pressure on them to do that and waiting for them and hoping that they'll do that, there's some stuff that the rest of us can do, too. So, we can create some better pathways or suggest some better pathways for angsty teens to go down. If you see something that you think is really creative and thoughtful and you want to share that thing, you can share that thing, even if it's not flooding you with high arousal emotion. Now that is a very small step, I realize, but in the aggregate, this stuff does matter, because these algorithms, as powerful as they are, they are taking their behavioral cues from us.
ですが SNSに改善するよう 圧力をかけて 彼らが変えてくれるのを 待ち続けるだけでなく 私達にもできることがあります 不安を抱える若者たちが進める より良い道筋を作り 指し示すのです もしネット上で 創造的で思慮深いものを見て 誰かと共有したいと感じたら 共有しましょう それが興奮度の高い感情を 刺激しなくてもです これは本当に小さな一歩でしょうが 積り積もれば効果があります ネット上のアルゴリズムは 強力であると同時に 私達の行動を反映しているからです
So let me leave you with this. You know, a few years ago it was really fashionable to say that the internet was a revolutionary tool that was going to bring us all together. It's now more fashionable to say that the internet is a huge, irredeemable dumpster fire. Neither caricature is really true. We know the internet is just too vast and complex to be all good or all bad. And the danger with these ways of thinking, whether it's the utopian view that the internet will inevitably save us or the dystopian view that it will inevitably destroy us, either way, we're letting ourselves off the hook. There is nothing inevitable about our future. The internet is made of people. People make decisions at social media companies. People make hashtags trend or not trend. People make societies progress or regress. When we internalize that fact, we can stop waiting for some inevitable future to arrive and actually get to work now.
これだけ言って 終わりにしましょう 数年前は「インターネットは 革命的なツールであり 私たちを一つにする」 と言うのが カッコイイことでしたが 今では「インターネットは巨大な 手の付けられないゴミ溜めの火事だ」 と言うのがカッコイイようです どちらの表現も正しくありません インターネットは全てを 善とか悪とか言うには 広大で複雑すぎるのです ネットは世界を救うという夢想にも 世界を滅ぼすという悲観にも 危険があります 自分たちの責任を 認識していないからです 未来には決まったことなどありません インターネットを作っているのは人間です SNSの会社であれこれ 決めているのも人間だし ハッシュタグが流行るか 決めるのも人間です 社会を進歩させるのも 後退させるのも人間です その事実を受け止めたなら 決まった未来が訪れるのを 待つのはやめて 今 行動を起こせるはずです
You know, we've all been taught that the arc of the moral universe is long but that it bends toward justice. Maybe. Maybe it will. But that has always been an aspiration. It is not a guarantee. The arc doesn't bend itself. It's not bent inevitably by some mysterious force. The real truth, which is scarier and also more liberating, is that we bend it.
「道徳的世界の弧は長いが 公正の方へと曲がる」 私たちは皆 そう教わってきました まあそうかも そうかもしれません ですが それはあくまで 願望であり 保証はありません 弧はひとりでには 曲がりません 不思議な力によって 確かにそうなるわけではありません 真実を言うなら 恐ろしいようにも 解放されるようにも感じますが 曲げるのは 私たち自身なのです
Thank you.
ありがとうございました
(Applause)
(拍手)