Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Olá a todos. É meio engraçado, porque escrevi que os humanos se tornarão digitais, mas não achei que isso aconteceria tão rápido e que aconteceria comigo! Mas aqui estou eu, como um avatar digital e aí estão vocês, então vamos lá. Vamos começar com uma pergunta: "Quantos fascistas temos na plateia hoje?"
(Laughter)
(Risos)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
Bem, é um pouco difícil dizer porque esquecemos o que é o fascismo. As pessoas agora usam o termo "fascista" como um tipo de uso geral do abuso. Ou confundem fascismo com nacionalismo. Vamos usar alguns minutos pra esclarecer o que é o fascismo, na verdade, e como ele é diferente do nacionalismo.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
As formas mais brandas do nacionalismo têm estado entre algumas das criações humanas mais benevolentes. Nações são comunidades de milhões de estranhos que não se conhecem. Por exemplo, eu não conheço os 8 milhões de pessoas que compartilham a minha cidadania israelense. Mas graças ao nacionalismo, todos podemos nos preocupar uns com os outros e cooperar de forma eficaz. Isso é muito bom. Algumas pessoas, como John Lennon, imaginam que sem nacionalismo, o mundo será um paraíso pacífico. Mas, mais provavelmente, sem nacionalismo, estaríamos vivendo no caos tribal. Se observarmos hoje os países mais prósperos e pacíficos do mundo, como a Suécia, Suíça e Japão, veremos que eles têm um forte senso de nacionalismo. Em contraste, países que não têm um forte senso de nacionalismo, como Congo, Somália e Afeganistão, tendem a ser violentos e pobres.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Então, o que é fascismo e como ele é diferente do nacionalismo? Bem, o nacionalismo me diz que minha nação é única e que tenho obrigações especiais com ela. Já o fascismo me diz que minha nação é suprema e que tenho obrigações exclusivas com ela. Não preciso me preocupar com ninguém ou com nada a não ser com minha nação. Normalmente, claro, as pessoas têm muitas identidades e lealdade a diferentes grupos. Por exemplo, posso ser um grande patriota, fiel ao meu país e, ao mesmo tempo, ser fiel a minha família, a minha vizinhança, minha profissão, à humanidade como um todo, à verdade e à beleza. Mas quando temos diferentes identidades e lealdades, isso pode criar conflitos e complicações. Mas, quem disse que a vida é fácil? A vida é complicada. Lidemos com isso.
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
Fascismo é o que acontece quando as pessoas tentam ignorar as complicações e facilitar muito a própria vida delas. O fascismo nega todas as identidades, exceto a identidade nacional, e insiste que tenho obrigações somente com a minha nação. Se minha nação exige que eu sacrifique minha família, então, vou sacrificar minha família. Se a nação exige que eu mate milhões de pessoas, então vou matar milhões de pessoas. E se minha nação exige que eu traia a verdade e a beleza, devo trair a verdade e a beleza. Por exemplo, como um fascista avalia arte? Como um fascista decide se um filme é bom ou ruim? É extremamente simples. Existe, na verdade, apenas um critério: se o filme serve aos interesses da nação, é um bom filme; se não serve aos interesses da nação, é um filme ruim. É bem por aí. Do mesmo modo, como um fascista decide o que ensinar às crianças na escola? De novo, é muito simples. Existe apenas um critério: você ensina às crianças o que serve aos interesses da nação. A verdade não importa em nada.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
Os horrores da Segunda Guerra Mundial e do Holocausto nos lembram das terríveis consequências deste raciocínio. Mas, geralmente, ao falarmos sobre os males do fascismo, fazemos isso de modo ineficaz, pois a tendência é descrever o fascismo como um monstro hediondo, sem realmente explicar o que havia de tão sedutor nele. É um pouco como nos filmes de Hollywood que retratam os bandidos, Voldemort, Sauron ou Darth Vader, como feios, malignos e cruéis. Eles são cruéis até mesmo com aqueles que os apoiam. Quando vejo esses filmes, nunca entendo: por que alguém ficaria tentado a seguir um asqueroso nojento como o Voldemort? O problema com o mal é que, na vida real, o mal não parece necessariamente feio. Ele pode parecer muito bonito. E isso é algo que o cristianismo sabia muito bem, é por isso que na arte cristã, ao contrário de Hollywood, Satanás é geralmente representado como um homem lindo. É por isso que fica tão difícil resistir às tentações de Satanás, e porque também fica difícil resistir às tentações do fascismo.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
O fascismo faz com que as pessoas se vejam como pertencendo à coisa mais bela e mais importante do mundo: a nação. E então elas pensam: "Nos ensinaram que o fascismo é feio, mas quando me olho no espelho, vejo algo muito bonito. Não tem como eu ser um fascista, certo?" Errado. Esse é o problema com o fascismo. Quando você se olha no espelho fascista, se vê muito mais bonito do que realmente é. Na década de 1930, quando os alemães se olharam no espelho fascista, viram a Alemanha como a coisa mais linda do mundo. Se os russos se olharem no espelho fascista hoje, vão ver a Rússia como a coisa mais linda do mundo. E se os israelenses se olharem no espelho fascista, vão ver Israel como a coisa mais linda do mundo. Não significa que estejamos enfrentando agora uma reprise da década de 1930.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
Fascismo e ditaduras podem voltar, mas vão voltar num novo formato, que é bem mais relevante às novas realidades tecnológicas do século 21. Em tempos antigos, a terra era o bem mais importante do mundo. Política, portanto, era a luta para controlar as terras. E ditadura significava que todas as terras pertenciam a um único governante ou a uma pequena oligarquia. E na era moderna, as máquinas tornaram-se mais importantes do que a terra. Política tornou-se a luta para controlar as máquinas. E ditadura significava que muitas das máquinas ficavam concentradas nas mãos do governo ou de uma pequena elite. Agora os dados estão substituindo tanto a terra quanto as máquinas como o bem mais importante. Política se torna a luta para controlar os fluxos de dados. E ditadura agora significa que muitos dados estão sendo concentrados nas mãos do governo ou de uma pequena elite.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
O maior perigo que confronta a democracia liberal agora é que a revolução em tecnologia da informação tornará ditaduras mais eficientes do que as democracias.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
No século 20, a democracia e o capitalismo derrotaram o fascismo e o comunismo, pois a democracia era melhor no processamento de dados e na tomada de decisões. Devido à tecnologia do século 20, tornou-se simplesmente ineficiente tentar concentrar muitos dados e muito poder num só lugar.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
Mas não é uma lei da natureza que processamento centralizado de dados seja sempre menos eficiente que o processamento distribuído de dados. Com o surgimento da IA e do aprendizado de máquina, talvez torne-se viável processar enormes quantidades de informação muito eficientemente num lugar, tomar todas as decisões num só lugar, e, assim, o processamento centralizado de dados será mais eficiente que o processamento distribuído de dados. E, então, a principal desvantagem de regimes autoritários no século 20, a tentativa deles de concentrar todas as informações num só lugar, se tornará a maior vantagem deles.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
Outro perigo tecnológico que ameaça o futuro da democracia é a fusão da tecnologia da informação com a biotecnologia, o que pode resultar na criação de algoritmos que me conhecem melhor do que eu me conheço. E uma vez em posse desses algoritmos, um sistema externo, como o governo, pode não apenas prever minhas decisões, mas também pode manipular meus sentimentos, minhas emoções. Um ditador pode não ser capaz de me fornecer boa assistência médica, mas será capaz de me fazer amá-lo e me fazer odiar a oposição. Será difícil para a democracia sobreviver a tal desenvolvimento porque, no final, a democracia não é baseada na racionalidade humana, mas em sentimentos humanos. Durante eleições e referendos, não estão te perguntando: "Qual é a sua opinião?" Na verdade, estão te perguntando: "Como você está se sentindo?" E se alguém puder manipular suas emoções efetivamente, a democracia se tornará um show emocional de marionetes.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
Então, o que podemos fazer pra evitar o retorno do fascismo e o surgimento de novas ditaduras? A primeira questão que enfrentamos é: quem controla os dados? Se você for engenheiro, encontre formas de evitar que muitos dados sejam concentrados nas mãos de poucos. E encontre formas de se certificar que o processamento distribuído de dados seja, pelo menos, tão eficiente quanto o processamento centralizado de dados. Esta será a melhor proteção para a democracia. Quanto ao restante de nós que não somos engenheiros, a questão número um que enfrentamos é como não permitir sermos manipulados por aqueles que controlam os dados.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
Os inimigos da democracia liberal têm um método. Eles reprogramam nossos sentimentos. Não nossos e-mails, nem nossas contas bancárias. Eles reprogramam nossos sentimentos de medo, ódio e vaidade, e depois usam esses sentimentos para polarizar e destruir a democracia a partir de dentro. Este é um método pioneiro, usado pelo Vale do Silício, para nos vender produtos. Mas agora, os inimigos da democracia estão usando esse mesmo método para nos vender medo, ódio e vaidade. Eles não podem criar esses sentimentos do nada. Eles aprendem a reconhecer nossas próprias fraquezas preexistentes, e depois as usam contra nós. Portanto, é nossa responsabilidade conhecermos nossas fraquezas e garantirmos que elas não se tornem uma arma nas mãos dos inimigos da democracia.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Conhecer nossas próprias fraquezas também nos ajudará a evitar a armadilha do espelho fascista. Como expliquei anteriormente, o fascismo explora nossa vaidade e isso faz com que nos vejamos bem mais bonitos do que realmente somos. Essa é a sedução. Mas se vocês realmente se conhecem, não vão cair por este tipo de bajulação. Se colocarem um espelho a sua frente, que esconde o seu lado feio e faz com que se veja muito mais bonito e mais importante do que você realmente é, simplesmente quebre esse espelho.
Thank you.
Obrigado.
(Applause)
(Aplausos)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Chris Anderson: Yuval, obrigado. Incrível! É muito bom te ver de novo. Se entendi direito, você está nos alertando para dois grandes perigos: um deles é o possível ressurgimento de uma forma sedutora de fascismo, mas, junto a isso, ditaduras que podem não ser exatamente fascistas, mas que controlem todos os dados. Eu me pergunto se existe uma terceira preocupação, que algumas pessoas aqui já expressaram, de que não os governos, mas grandes corporações controlam todos nossos dados. Como você chama isso, e deveríamos ficar preocupados com isso?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Yuval Noah Harari: Bem, no final, não há uma diferença tão grande entre as corporações e os governos, pois, como eu disse, a pergunta é: quem controla os dados? Este é o verdadeiro governo. Se você chama de corporação ou governo... se é uma corporação e realmente controla os dados, este é o nosso verdadeiro governo. Então a diferença é mais aparente do que real.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
CA: Mas, de alguma forma, pelo menos com corporações, podemos imaginar mecanismos de mercado nos quais eles possam ser retirados. Se os consumidores decidirem que a empresa não está mais atendendo ao interesse deles, isso abre a porta para outro mercado. Parece mais fácil imaginar isso do que, digamos, cidadãos se rebelando e derrubando um governo que esteja no controle de tudo.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
YNH: Ainda não chegamos lá, mas, novamente, se uma corporação te conhece melhor do que você se conhece, ou pelo menos que ela possa manipular suas emoções e desejos mais profundos, e você nem vai perceber, você achará que esse é o seu eu autêntico. Em teoria, sim, você pode se rebelar contra uma corporação, assim como, em teoria, você pode se rebelar contra uma ditadura. Mas na prática, é extremamente difícil.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
CA: No livro "Homo Deus" você discute que este seria o século no qual humanos meio que se tornariam deuses, quer seja pelo desenvolvimento da inteligência artificial quer seja pela engenharia genética. Essa perspectiva de mudança, de colapso do sistema político, impactou a sua opinião sobre essa possibilidade?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
YNH: Acho que isso deixa ainda mais provável e muito provavelmente irá acontecer mais rápido, pois, em tempos de crise, as pessoas estão dispostas a assumir riscos que não assumiriam em outra época. E elas estão dispostas a tentar todo tipo de tecnologias de alto risco e de alto ganho. Então, esse tipo de crise pode ter a mesma função que as duas guerras mundiais no século 20. Elas aceleraram muito o desenvolvimento de tecnologias novas e perigosas. A mesma coisa pode acontecer no século 21. Quero dizer, é preciso ser meio louco para acelerar muito, digamos, a engenharia genética. Mas agora temos cada vez mais pessoas malucas no comando de diferentes países do mundo, então as chances são maiores, não menores.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
CA: Então, considerando tudo, Yuval, você tem uma visão única. Adiante o relógio em 30 anos. Qual é o seu palpite: a humanidade de alguma forma passa raspando, olha para trás e diz: "Ufa, essa foi por pouco. Conseguimos!" Ou não?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
YNH: Até agora, conseguimos superar todas as crises anteriores. E especialmente, se observarmos a democracia liberal e acharmos que as coisas estão ruins agora vamos nos lembrar do quanto pior estava tudo em 1938 ou em 1968. Então, isso não é nada, é apenas uma pequena crise. Mas nunca se sabe, pois, como historiador, sei que jamais deveríamos subestimar a estupidez humana.
(Laughter) (Applause)
(Risos) (Aplausos)
It is one of the most powerful forces that shape history.
É uma das forças mais poderosas que molda a história.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
CA: Foi um imenso prazer ter você aqui conosco. Obrigado por fazer a viagem virtual. Tenha uma ótima noite aí em Tel Aviv. Yuval Harari! YNH: Muito obrigado.
YNH: Thank you very much.
(Aplausos)
(Applause)