Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Здравствуйте. Забавно: я сам писал о том, что человек примет цифровой облик, но не предполагал, что это произойдёт так скоро и что это произойдёт со мной. Но вот на сцене мой цифровой аватар, а вы в зале, так давайте же начнём. И давайте начнём с вопроса. Сколько сегодня в зале фашистов?
(Laughter)
(Смех)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
Вообще-то, на это трудно ответить, потому что мы забыли, что значит фашизм. Термин «фашизм» превратился сегодня в некую форму обобщённого ругательства. Или его путают с национализмом. Поэтому давайте уделим пару минут разбору того, что же такое фашизм и чем он отличается от национализма.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
До определённой степени национализм лежит в основе самых благонамеренных созданий человечества. Нации — это сообщества миллионов людей, незнакомых друг с другом. Я, например, не знаком с восемью миллионами, разделяющими со мной израильское гражданство. Но благодаря национализму мы друг другу небезразличны и можем эффективно сотрудничать. И это хорошо. Некоторые люди, как Джон Леннон, представляют себе, что без национализма мир превратится в мирный рай. Но наиболее вероятно, что без него мы давно бы скатились к племенной междоусобице. Если посмотреть на наиболее процветающие и мирные страны в сегодняшнем мире, такие как Швеция, Швейцария и Япония, становится ясно, что у них очень сильно развито чувство национализма. И наоборот, страны, где наблюдается недостаток национальной сплочённости, такие как Конго, Сомали и Афганистан, страдают от жестокости и бедности.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Итак, что же такое фашизм и чем он отличается от национализма? Национализм — это гордость за уникальность своей нации и определённые обязательства по отношению к своей нации. А фашизм, напротив, — утверждение, что моя нация выше других и что только перед ней у меня есть обязательства. Мне не нужно заботиться ни о ком и ни о чём другом, кроме моей нации. Но обычно люди испытывают чувство принадлежности и лояльности к различным группам. Например, я могу быть истинным патриотом своей страны и в то же время быть преданным своей семье, ощущать себя частью своего окружения, профессии, человечества в целом, быть верным истине и красоте. И, разумеется, в результате этих разных привязанностей иногда возникают конфликты и сложности. Но ведь никто же не говорит, что жизнь проста. Жизнь сложна. С этим надо считаться.
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
Фашизм происходит тогда, когда люди пытаются не признавать этих сложностей, таким образом упрощая себе жизнь. Фашизм отрицает наличие какой-либо приверженности, кроме как к нации, и настаивает лишь на обязательствах по отношению к нации. Если нация потребует, чтобы я принёс в жертву свою семью, тогда я пожертвую семьёй. Если нация потребует, чтобы я убил миллионы людей, тогда я убью миллионы людей. И если нация потребует, чтобы я предал истину и красоту, я поступлюсь истиной и красотой. Например, как фашист оценивает искусство? Как фашист определяет, какой фильм хорош, а какой плох? Да очень и очень просто. Тут есть только одна мерка: если фильм служит интересам нации, это хороший фильм; если фильм не служит интересам нации, это плохой фильм. Вот и всё. Аналогично, как фашист решает, чему учить детей в школе? Опять же, всё очень просто. Существует только одна мерка: учить детей надо лишь тому, что служит интересам нации. Истина не имеет значения.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
Ужасы Второй мировой войны и Холокоста напоминают нам о трагических последствиях такого мышления. Но обычно в риторике о вреде фашизма мы многое упускаем, так как представляем его безобразным чудовищем, не объясняя того, что делало его таким привлекательным. Немного наподобие голливудских фильмов, изображающих злодеев — Волан-де-Морта, Саурона, Дарт Вейдера — уродливыми, озлобленными и жестокими. Они жестоки даже по отношению к тем, кто на их стороне. Когда я смотрю такие фильмы, мне не понятно, с какой стати кто-то захочет водиться с таким мерзким гадом, как Волан-де-Морт. Но проблема со злом в том, что в реальной жизни зло вовсе не обязательно омерзительно. Оно может быть внешне прекрасно. Это хорошо известно в христианстве, поэтому в искусстве христианства, в отличие от Голливуда, Сатана обычно изображается в виде красавчика. Вот почему соблазнам Сатаны так трудно противостоять. И по этой же причине трудно устоять перед соблазнами фашизма.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
Фашизм позволяет людям увидеть себя частью самой прекрасной и самой значительной идеи в мире — их нации. И люди думают: «Нас учили, что фашизм уродлив. Но, глядя в зеркало, я вижу лишь красоту, значит, я не могу быть фашистом, так?» Нет, не так. Это и есть недопонимание фашизма. Когда вы смотрите в зеркало фашизма, вы видите себя намного лучше, чем вы есть на самом деле. В 1930-х годах, когда немцы смотрели на себя в зеркало фашизма, они видели в Германии самую прекрасную нацию на свете. Если сегодня русские посмотрят на себя в зеркало фашизма, они увидят Россию как самую прекрасную нацию на свете. И израильтяне, глядя на себя в зеркале фашизма, увидят Израиль как самую прекрасную нацию на свете. Это не означает, однако, что мы наблюдаем возврат к 30-м годам.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
Фашизм и диктатура могут вернуться, но они примут новое обличие — наиболее современный вид, отвечающий реалиям новаторских технологий XXI века. В древнем мире самым важным достоянием на свете считалась земля. Поэтому политика разворачивалась вокруг владения территориями. При этом диктатура означала сплочение собственности на землю в руках правителя или олигархии. В эпоху индустриализации важность машин оттеснила землю. Политика стала развиваться вокруг власти над машинами. А диктатура стала означать, что бóльшая часть машин сконцентрирована в руках правительства или малочисленной элиты. Теперь же на смену земле и машинам пришли данные, став самым ценным активом. Политика превратилась в борьбу за контроль над потоками данных. А диктатура сегодня наступает, когда слишком много данных скапливается в руках правительства или малочисленной элиты.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
Сегодня самая большая опасность для либеральной демократии — это если революция в информационных технологиях сделает диктатуру более эффективной, чем демократию.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
В XX веке демократия и капитализм победили фашизм и коммунизм, потому что демократия лучше справлялась с обработкой данных и принятием решений. При технологиях XX века было просто непрактично пытаться консолидировать слишком много данных и слишком много власти в одном месте.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
Однако нет такого закона природы, по которому централизованная обработка данных не может стать эффективнее рассредоточенной обработки данных. С появлением искусственного интеллекта и самообучающихся машин эффективная обработка огромных объёмов информации в одном месте может стать вполне осуществимой, так же, как и принятие любых решений. Тогда централизованное управление информацией станет эффективнее рассредоточенного управления данными. И тогда главная проблема авторитарных режимов XX века — их попытка консолидации всей информации в одном месте — станет их наибольшим преимуществом.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
Другая технологическая опасность, угрожающая будущему демократии, находится на стыке информационных технологий и биотехнологий. Эта опасность заключается с создании алгоритмов, которые будут знать меня лучше меня самого. Как только появятся такие алгоритмы, любая внешняя сила вроде правительства сможет не только предсказывать мои решения, но и завладеть моими чувствами, моими эмоциями. Диктатор может и не быть в состоянии обеспечить качественное здравоохранение, но наверняка сможет обеспечить мою любовь к себе и ненависть к оппозиции. Демократии будет трудно пережить такую ситуацию, потому что в конечном итоге демократия опирается не на способность рационально мыслить, а на чувства людей. Во время выборов и референдумов вас не спрашивают: «Что вы думаете?» Вас спрашивают: «Что вы чувствуете?» И если кто-то способен эффективно манипулировать вашими эмоциями, демократия превратится в кукольный театр эмоций.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
Как же нам предотвратить возвращение фашизма и возникновение новых диктатур? Вопрос, который следует задать в первую очередь: «В чьих руках данные?» Если вы инженер, тогда подумайте, как воспрепятствовать скоплению большого количества данных в руках немногих. И подумайте, как можно сделать распределённую обработку данных по крайней мере настолько же эффективной, как централизованную обработку данных. Это будет самой твёрдой гарантией демократии. А для остальных из нас, не инженеров, первоочередной вопрос — это как не допустить того, чтобы нами управляли те, кто управляет данными.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
У врагов либеральной демократии есть свой подход. Они вскрывают наши чувства. Не наши почтовые ящики и банковские счета, а именно наши чувства страха, ненависти и тщеславия. Затем они используют эти чувства для поляризации и раскола демократии изнутри. Изначально этот подход был разработан в Кремниевой долине с целью заставить нас покупать. И именно им пользуются теперь враги демократии, чтобы продавать нам страх, ненависть и тщеславие. Они не могут вызвать эти чувства на пустом месте. Поэтому им нужно знать присущие нам слабости и затем использовать их против нас. Вот почему на каждом из нас лежит ответственность за познание собственных слабостей и за недопущение их использования в качестве оружия в руках врагов демократии.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Познание собственных слабостей также поможет нам не оказаться в ловушке фашистского зеркала. Как было сказано ранее, фашизм играет на нашем тщеславии. Он показывает нам самих себя лучшими, чем мы есть на самом деле. В этом и есть соблазн. Но если вы знаете себя по-настоящему, вы не поддадитесь на подобную лесть. Если вас поставят перед зеркалом, которое скрывает все ваши недостатки и делает ваше отражение намного красивее и значительнее, чем вы есть на самом деле, просто разбейте это зеркало.
Thank you.
Спасибо.
(Applause)
(Аплодисменты)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Крис Андерсон: Спасибо, Юваль. Подумать только. Как же здорово снова тебя увидеть. Если я тебя правильно понял, ты предостерегаешь нас от двух опасностей. Одна — это возрождение соблазнительной формы фашизма, а другая, близкая ей, — это диктатура, которая может и не быть фашистской, но которая держит под контролем данные. Интересно, нет ли и третьей опасности, о которой некоторые здесь уже говорили, когда не правительства, а крупные корпорации владеют нашими данными? Как бы ты это назвал и насколько нам об этом стоит беспокоиться?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Юваль Ной Харари: По большому счёту, нет особой разницы между корпорациями и правительством, потому что, как я уже говорил, вопрос в том, кто владеет данными. Они-то и есть реальная власть. Зовите их корпорацией или правительством — если это корпорация, реально владеющая данными, то она и есть настоящее правительство. Поэтому разница здесь скорее мнимая, чем реальная.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
КА: Но ведь в случае с корпорациями должны же быть рыночные механизмы, которые могут их уничтожить. То есть, если потребители вдруг решат, что компания больше не действует в их интересах, это откроет дорогу к другим рынкам. Это легче себе представить, чем, скажем, бунт граждан с целью свержения правительства, которое всё контролирует.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
ЮНХ: Пока об этом рано говорить, но если корпорация знает вас лучше, чем вы знаете себя сами, или хотя бы способна манипулировать вашими сокровенными желаниями без вашего ведома, то вы поверите, что сами того хотите. В теории — да, вы можете восстать против корпорации так же, как — опять же, в теории — можно восстать против диктатуры. Но на практике это чрезвычайно сложно.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
КА: В книге «Homo Deus» ты выдвигаешь гипотезу, что в этом столетии люди станут кем-то вроде богов либо вследствие развития искусственного интеллекта, либо посредством генетических манипуляций. Повлияли ли на твоё видение будущего эти опасения по поводу политического сдвига, кризиса?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
ЮНХ: На мой взгляд, такая возможность не только более вероятна, но и более вероятно, что она наступит быстрее, потому что в периоды кризиса люди идут на бóльшие риски, чем в обычной ситуации. Люди больше готовы экспериментировать с разного рода крайне рискованными, но многообещающими технологиями. Так что подобный кризис может иметь тот же эффект, что и две мировые войны в XX веке. Обе мировые войны чрезвычайно ускорили развитие новых и опасных технологий. И то же самое может произойти в XXI веке. Ведь надо же быть сумасшедшим, чтобы торопиться с такими вещами, как, например, генная инженерия. Но сейчас всё больше и больше таких сумасшедших оказываются во главе разных государств, поэтому и шансы возрастают, а не уменьшаются.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
КА: Итак, подведём итог твоей уникальной точке зрения, Юваль. Перемотаем время на 30 лет вперёд. Как по-твоему: сумеет ли человечество как-то выкарабкаться из этого и, оглядываясь назад, подумать: «Ну и ну, мы едва уцелели!» или нет?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
ЮНХ: До сих пор нам удавалось преодолеть все предыдущие кризисы. Если вы считаете, глядя на либеральную демократию, что она в плачевном состоянии, то вспомните, насколько хуже обстояли дела в 1938 или 1968 годах. И тогда сегодняшний кризис покажется совершенно незначительным. Однако нельзя сказать наверняка, потому что как историк я знаю, что никогда нельзя недооценивать человеческую глупость.
(Laughter) (Applause)
(Смех) (Аплодисменты)
It is one of the most powerful forces that shape history.
Это одна из мощнейших сил, формирующих историю.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
КА: Юваль, твоё появление здесь было настоящим подарком. Спасибо за это виртуальное перемещение. Хорошего вечера в Тель-Авиве. Юваль Харари!
YNH: Thank you very much.
ЮНХ: Большое спасибо.
(Applause)
(Аплодисменты)