Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
皆さん こんにちは 確かに私は人間がいつか デジタルになると著書に書きましたが こんなに早く しかも 自分自身がそうなるなんて 思いもしませんでした ともかく デジタルアバターとして 私はここにいます それでは皆さん 始めましょう まずは質問させてください 本日お集まりの皆さんの中に ファシストの方はどれくらいいますか?
(Laughter)
(笑)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
少々答えにくいかもしれませんね 私たちがファシズムとは何かを 忘れているからです 最近は「ファシスト」という言葉を 多くの用途に使い過ぎています あるいは ファシズムを ナショナリズムと混同しています それでは 少し時間を頂いて ファシズムとは本当は何なのか また ナショナリズムとの違いについて 明らかにしましょう
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
「穏やかな」ナショナリズムは 人間の生み出したものの中でも 最も善意に満ちた部類に入ります 国家とは お互いを良く知らない人々が 何百万人も集まった共同体です 例えば 私は 同じイスラエル国籍を持つ 8百万人の人々のことを 知りません しかしナショナリズムのおかげで 私たちはお互いを気にかけて 効果的に協力し合うことができます これはとても良いことです 中にはジョン・レノンのように ナショナリズムの無い世の中は 平和なパラダイスになると 想像する人もいますが それよりも ナショナリズムがなければ 部族的なカオスの中で 生きる可能性がずっと高いでしょう 現在 世界で最も繁栄していて 平和な国 スウェーデンやスイス 日本のような国を見ると ナショナリズムの感覚を 強く持っている国だとわかります 逆に ナショナリズムの感覚が希薄な コンゴやソマリア アフガニスタンのような国では 暴力と貧困の傾向が見られます
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
さてファシズムとは何で ナショナリズムとはどう違うのでしょう? ナショナリズムは 自分の国は特別であり 自分は自国に対して特別な 義務を負っているという考え方です 一方ファシズムは 自分の国こそ最も優れており 自分は自国に対してだけ 義務があるという考え方です 自分の国以外の誰も何事も 気にかける必要がないということです もちろん 一般的に見て 人それぞれ複数のアイデンティティがあり 異なる集団に 忠誠心を抱いています たとえば 私が善良な愛国者で 自分の国に忠誠心を持っているとして 同時に 自分の家族や 近所の人たち 自分の仕事 人類全体 真実や美に対しても 忠実かもしれません もちろん いろいろなアイデンティティや 忠誠心があることで 矛盾や問題が生じることもあります しかし そもそも誰が 人生は単純なものだと言ったのでしょう? 人生は複雑なのです 対処していくしかありません
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
ファシズムは 人々が複雑性を無視し 自分だけ楽して 生きようとする時に生まれます ファシズムは国民としての自己認識を別として 全てのアイデンティティを否定し 個人は国に対してのみ 責任があるのだと主張します 国が家族を犠牲にせよと 命令したら 家族を犠牲にし 国が何百万人もの人を 殺せと命じたら 何百万人の人を殺すのです 国が真実と美に 背を向けろと命じたら 真実と美に背かなければなりません 例えば ファシストは芸術を どのように評価するでしょう? 映画の良し悪しは どのように判断するでしょう? これは 非常に 非常に単純です モノサシは1つしかありません その映画が国の利益に 供するものであれば それは良い映画で 国の利益に反するものであれば それは悪い映画なのです それだけです 同様に ファシストは 学校で教える内容をどう決めるのでしょう? これもまた 非常に単純です モノサシは1つです 何であれ国の利益に 供することを教えればいいのです 真実かどうかは全く問題になりません
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
第二次世界大戦と ホロコーストの恐怖は このような考え方が酷い結果を 招いたことを思い出させます しかし ファシズムの邪悪さを 伝えようとする時 私たちの語り方は 効果的ではありません 恐ろしいモンスターのように 描写するだけで ファシズムの何が 人をそれ程までに 惹きつけてしまうのかを説明していません ある意味 ハリウッド映画の 悪役のように描いています ヴォルデモートやサウロン ダース・ベイダーなどのように 醜く卑劣で残忍なものとしてです 悪役たちは自分を支持する人々 に対しても冷酷です 私はそうした映画を見ると どうしても分からないのです ヴォルデモートのようなおぞましい悪人に 誰がついていきたいと思うのか 「悪」という概念の 実世界での問題点は 必ずしも醜くは 見えないということです とても美しく見えることもあります キリスト教はこのことを よく理解しているので キリスト教の宗教画は ハリウッド映画とは違って たいていサタンを立派な男性美 として描いています だからこそサタンの誘惑に 打ち勝つのは難しいのです ファシズムの魅力に打ち勝つのが 難しいのも同じです
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
ファシズムは人々に 自分は世界で最も美しく最も大切なものに 属しているのだと思わせます 国家のことです すると人々はこう思います 「ファシズムは醜いものだと 教わりました でも 鏡にはとても美しいものが 映っているから 私はファシストではないですよね?」 違います これがファシズムの問題なのです ファシストの目で鏡を見ると 自分が本来の姿より ずっと美しく見えるのです 1930年代にドイツ人が ファシストの目で鏡を見た時 ドイツが世界の何よりも 美しく見えたはずです 今 ロシア人が ファシストの目で鏡を見たら ロシアが世界の何よりも 美しく見えるでしょう イスラエル人が ファシストの目で鏡を見れば イスラエルが世界の何よりも 美しく見えるはずです これは1930年代の出来事が 繰り返されているという意味ではありません
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
ファシズムや独裁が 再び起こるかもしれませんが それは 姿を変え 21世紀の新しい技術の現状に もっと即した形で復活することでしょう 古代の世の中においては 土地は最も重要な資産でした だから政略とは土地を 支配することでした そして独裁とは全ての土地の所有権が 1人の支配者 あるいは少数の寡頭制支配者に 属することを意味しました 近代になると 土地よりも 機械が重要になり 機械を支配しようとする 政略に移りました よって独裁とは 過剰な程 多くの機械が 政府や一握りのエリートの手に 集中することを意味しました 現在では データが最も重要な資産として 土地や機械に取って代わりつつあります 今や政治とは データの流れを コントロールするために骨を折ることであり そして今や独裁とは 過剰な量のデータが 政府や一握りのエリートに 集中することを意味します
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
自由民主主義が直面している 最大の危機は 情報革命のせいで 民主主義よりも独裁のほうが 効率が良くなってしまうことです
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
20世紀には 民主主義と資本主義が ファシズムと共産主義に勝利しましたが それは民主主義の方がデータ処理と 意思決定に優れていたからです 20世紀のテクノロジーは 多くのデータと 多大な権力を一手に集中させることに 単に向いていなかったのです
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
しかし分散データ処理よりも 集中データ処理の方が 常に非効率だというのは 自然の理に反します 人工知能や機械学習の台頭により 膨大な量の情報を 一ヶ所で効率的に処理し 一ヶ所で全ての決定を下すといったことも 可能になるかもしれません そうなれば 集中データ処理の方が 分散データ処理よりも 効率が良くなります 20世紀の独裁体制にとって 負担になっていたのは 情報を一か所に集中する試みでしたが それこそが最大の利点に なるかもしれません
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
未来の民主主義を脅かす もう一つの技術面の脅威は 情報テクノロジーと バイオテクノロジーの融合です これにより自分よりももっと 自分のことを知っている アルゴリズムが生まれる 可能性があります このようなアルゴリズムが生まれると 政府など外部のシステムが 私の意思決定を予見するだけでなく 私の感情や情動を操ることが できるようになります 独裁者は私に十分な医療制度を 提供できないかもしれませんが 私が独裁者を愛し 敵対者を憎むように 仕向けることができます 民主主義がこのような変化を 切り抜けるのは難しいでしょう なぜなら結局のところ 民主主義とは人間の合理性ではなく 感情によって左右されるからです 選挙や国民投票では 「どう考えるか」ではなく 「どう感じるか」を問われています そしてもし誰かが人の感情を 効果的に操作できるとしたら 民主主義は感情を操る 人形劇になってしまいます
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
ファシズムの再来と 新しい独裁の台頭を防ぐには どうすれば良いのでしょう 私たちが直面する第一の問いは 「誰がデータを支配するのか」です あなたがエンジニアであれば 一部の人の手へのデータの集中を 防ぐ方法を考えて下さい そして分散型のデータ処理が 集中データ処理と 少なくとも同じくらいは 効率的であるようにしてください これが民主主義にとって 最良の防御壁になります エンジニア以外の人々にとっては 目の前にある一番の問題は いかにして データを支配する者に 操られないようにするかです
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
自由民主主義の敵の やり方は 私たちの感情を ハッキングすることです Eメールや銀行口座ではなく 私たちの恐怖や憎しみ 虚栄心といった感情をハッキングし 次に こうした感情を利用して 民主主義を二極化させ 内側から破壊します 実はこれは シリコンバレーが商品を売るために 開発した手法です しかし今は全く同じ手法で 民主主義の敵が 恐怖や憎しみや虚栄心を 売るのに使っています こうした感情をゼロから 生み出すことはできません 私たちに内在している 弱さを見つけ出し それを攻撃に使うのです だからこそ私たち全員の責任において 自分の弱さを認識し それが民主主義の敵の手に渡って 武器にされないように しなければなりません
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
自分自身の弱さを知ることで ファシストの鏡という罠に かからずに済みます 既に説明した通り ファシズムは 私たちの虚栄心を利用します 私たちを実際よりも ずっと美しく見せるのです それがファシズムの誘惑です しかし自分のことをよく理解すれば こういったまやかしに 乗せられることもありません 誰かがあなたの前に鏡を置いたとして それがあなたの欠点を全て覆い隠し 自分を実際よりもずっと美しく ずっと重要に見せる鏡だとしたら 壊すしかありません
Thank you.
ありがとうございました
(Applause)
(拍手)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
(クリス・アンダーソン) ありがとうございました なんと またお会いできて 嬉しいですね もし私の理解が正しければ あなたは2つの危険性について 警鐘を鳴らしましたね 1つは魅惑的に姿に変えた ファシズムが復活すること それからファシズムに似ているけど 厳密には異なる独裁主義が 全てのデータを支配すること 3つ目の危険もあるのではと 危惧しています それは他のスピーカーが 話されたように 政府ではなく 大企業が私たちのデータを 全て支配するというものです これを何と呼び また その危険性を どの程度憂慮すべきでしょうか?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
(ユヴァル・ノア・ハラリ) 結局のところ 企業であれ政府であれ あまり大きな差はありません なぜなら お話しした通り 問題は 「データを支配するのか誰か」であって この支配者こそ 事実上の政府なのです それを企業と呼ぼうと 政府と呼ぼうとお構いなく 仮に企業が実際にデータを 支配するのなら その企業が事実上の 政府になります だから違いは 見かけだけのことなのです
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
(クリス)しかし企業だとしたら 市場原理が働いて その座を追われたりしないでしょうか つまり 消費者が そんな企業には もう興味がないとし 他の市場にチャンスを 与えるということです 国民が蜂起して 全てを支配する政府を 転覆させるよりは 想像しやすいと思うのですが
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
(ユヴァル) 国民はまだそのレベルになく 繰り返しますが 企業が人々のことを その人以上に知っていたら 少なくとも 心の奥深くにある 感情や欲望を操ることができて 人々はそれに気づきもせず 「真の」自分の考えだと 思い込むことでしょう 理論上は企業に対して 立ち上がることも可能です それは理論上 独裁者に対して 蜂起が可能なのと同じです ただ現実には非常に難しいのです
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
(クリス)『ホモ・デウス』の中で あなたは今世紀のうちに 人類は人工知能の進歩か 遺伝子工学によって 神のようになると 述べていますね その可能性に対するあなたの見解は 政治の体系が変化し崩壊するという 見方によって 影響を受けましたか?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
(ユヴァル)そうなれば 可能性は更に高まり しかも もっと早く 実現することでしょう なぜなら危機に際すると 人間は普段なら冒さないようなリスクさえ 積極的に冒そうとするからです そしてハイリスクでハイリターンの あらゆる技術を試そうとします つまりこうした危機は20世紀に 2つの世界大戦がもたらしたのと 同じような役割を果たします 2つの世界大戦は 新しくて危険な技術の進歩を 著しく加速させました 21世紀にも同じことが起こる 可能性があります 少しばかり たがを外すだけで 暴走し得るということです 例えば遺伝子工学のことです 今の世の中では 常軌を逸した人が 様々な国で政権を握るケースが 増えています ですから危険性は高まっていると 考えられます
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
(クリス)ユヴァルさん 全体的に 非常にユニークな見方だと思います 時計を30年先に進めましょう あなたの予測では 人類は危機をギリギリすり抜け 振り返って「ああ危なかった! でも助かった!」と言うでしょうか それともその逆でしょうか?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
(ユヴァル)過去に人類は なんとか危機を回避してきました 特に自由民主主義を見ていると 現状を好ましくないと 思うかもしれませんが 思い返せば1938年や1968年は もっとひどかったわけで だから今の状況は何てことない 小さな危機なのです だけど誰にも分かりはしません 歴史学者として言えるのは 決して人間の愚かさを侮っては いけないということです
(Laughter) (Applause)
(笑)(拍手)
It is one of the most powerful forces that shape history.
人間の愚かさは歴史を形造ってきた 重要な要素の一つです
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
(クリス)ユヴァルさん ご登場いただき光栄でした ヴァーチャルでお越しいただき ありがとう そちらテル・アヴィヴで 素敵な夜を ユヴァル・ハラリさんでした!
YNH: Thank you very much.
(ユヴァル)ありがとうございました
(Applause)
(拍手)