Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Hola todos. Esto es un poco extraño, porque escribí que los humanos se volverían digitales, pero no pensé que sucedería tan rápido y que me iba a pasar a mí. Pero aquí estoy, como un avatar digital, y aquí están Uds., así que comencemos. Y comencemos con una pregunta. ¿Cuántos fascistas hay hoy en la audiencia?
(Laughter)
(Risas)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
Bueno, es un poco difícil de decir, porque hemos olvidado lo que es el fascismo La gente ahora usa el término "fascista" como una especie de abuso de propósito general. O confunden el fascismo con el nacionalismo. Así que tomemos unos minutos para aclarar qué es en realidad el fascismo, y sus diferencias con el nacionalismo.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
Las formas más suaves de nacionalismo han estado entre las más benevolentes de las creaciones humanas. Las naciones son comunidades de millones de extraños que realmente no se conocen. Por ejemplo, no conozco a los ocho millones de personas que comparten mi ciudadanía israelí. Pero gracias al nacionalismo, todos podemos cuidarnos unos a otros y cooperar de manera efectiva. Esto es muy bueno. Algunas personas, como John Lennon, imaginan que sin nacionalismos, el mundo sería un paraíso pacífico. Pero es mucho más probable que sin nacionalismos, habríamos estado viviendo en el caos tribal. Si observan los países actuales más prósperos y pacíficos del mundo, países como Suecia y Suiza y Japón, verán que tienen un fuerte sentido de nacionalismo. Por el contrario, países que carecen de un fuerte sentido de nacionalismo, como Congo y Somalia y Afganistán, tienden a ser violentos y pobres.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Y, ¿qué es el fascismo y cómo se diferencia del nacionalismo? El nacionalismo me dice que mi nación es única, y que tengo obligaciones especiales hacia mi nación. El fascismo, en cambio, me dice que mi nación es suprema, y que tengo obligaciones exclusivas para con ella. No necesito preocuparme por nadie ni nada que no sea mi nación. Por lo general, por supuesto, las personas tienen muchas identidades y lealtades a diferentes grupos. Por ejemplo, puedo ser un buen patriota, leal a mi país, y al mismo tiempo, ser leal a mi familia, mi barrio, mi profesión, la humanidad como un todo, la verdad y la belleza. Por supuesto, tener diferentes identidades y lealtades, a veces crea conflictos y complicaciones. Pero ¿quién dijo que la vida fuese fácil? La vida es complicada. Transa con ella.
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
El fascismo es lo que se da cuando las personas intentan ignorar las complicaciones y tratan de hacer la vida demasiado fácil para ellas mismas. El fascismo niega todas las identidades excepto la identidad nacional e insiste en que debo tener obligaciones solo con mi nación. Si mi nación exige que sacrifique a mi familia, entonces sacrificaré a mi familia. Si la nación exige que mate a millones de personas, entonces mataré a millones de personas. Y si mi nación exige que traicione la verdad y la belleza, entonces traicionaré la verdad y la belleza. Por ejemplo, ¿cómo evalúa el arte un fascista? ¿Cómo decide un fascista si una película es una buena película o mala? Bueno, es muy, muy, muy simple. En realidad, solo hay un criterio: si la película sirve a los intereses de la nación, es una buena película; si la película no sirve a los intereses de la nación, es una mala película. Así es. Del mismo modo, ¿cómo decide un fascista qué enseñar a los niños en la escuela? Nuevamente, es muy simple. Solo hay un criterio: se les enseña a los niños lo que sea que sirva a los intereses de la nación. La verdad no importa en absoluto.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
Los horrores de la II Guerra Mundial y del Holocausto nos recuerdan las terribles consecuencias de esta forma de pensar. Pero, por lo general, cuando hablamos de los males del fascismo, lo hacemos de una manera ineficaz, porque tendemos a describir el fascismo como un monstruo horrible, sin realmente explicar lo que es tan seductor de él. Es un poco como estas películas de Hollywood que representan a los malos --Voldemort o Sauron o Darth Vader-- como feos, malos y crueles. Son crueles incluso con sus propios seguidores. Cuando veo estas películas, nunca entiendo... ¿por qué alguien estaría tentado a seguir un repugnante asqueroso como Voldemort? El problema con el mal es que en la vida real, el mal no necesariamente se ve feo. Puede verse muy hermoso. Esto es algo que el cristianismo conocía muy bien, y es por eso que en el arte cristiano, al contrario que Hollywood, generalmente representa a Satanás como un personaje magnífico. Por eso es tan difícil resistir las tentaciones de Satanás, y por lo que también es difícil resistir las tentaciones del fascismo.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
El fascismo hace que las personas se vean a sí mismas como pertenecientes a lo más bello y más importante del mundo, la Nación. Y luego la gente piensa, "Bueno, nos enseñaron que el fascismo es feo. Pero cuando me miro en el espejo, veo algo muy hermoso, entonces no puedo ser un fascista, ¿cierto?". Incorrecto. Es el problema con el fascismo. Cuando miras en el espejo fascista, te ves a ti mismo mucho más hermoso de lo que realmente eres. En la década de 1930, cuando los alemanes se miraban en el espejo fascista, vieron a Alemania como la cosa más bella del mundo. Si hoy, los rusos se miran en el espejo fascista, verán a Rusia como la cosa más bella del mundo. Y si los israelíes se miran en el espejo fascista, verán a Israel como la cosa más bella del mundo. No significa que ahora enfrentemos una repetición de la década de 1930.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
El fascismo y las dictaduras podrían volver, pero volverán con una nueva forma, una forma que es mucho más acorde con las nuevas realidades tecnológicas del siglo XXI. En tiempos antiguos, la tierra era el activo más importante del mundo. La política, por lo tanto, era la lucha por controlar la tierra. Y la dictadura significaba que toda la tierra era propiedad de un solo gobernante o una pequeña oligarquía. En la era moderna, las máquinas se volvieron más importantes que la tierra. La política se convirtió en la lucha para controlar las máquinas. Y la dictadura significaba que muchas de las máquinas se concentraron en manos del gobierno o de una pequeña élite. Ahora la información está reemplazando la tierra y las máquinas como el activo más importante. La política se convierte en la lucha para controlar los flujos de datos. Y la dictadura ahora significa que mucha información se está concentrando en manos del gobierno o de una pequeña élite.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
El mayor peligro que enfrenta ahora la democracia liberal es que la revolución en la tecnología de la información hará que las dictaduras sean más eficientes que las democracias.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
En el siglo XX, la democracia y el capitalismo derrotaron al fascismo y al comunismo porque la democracia era mejor para procesar información y tomar decisiones. Dada la tecnología del siglo XX, fue simplemente ineficiente tratar de concentrar demasiados datos y demasiada potencia en un solo lugar.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
Pero no es una ley de la naturaleza que el procesamiento de información centralizado sea siempre menos eficiente que el procesamiento de información distribuido. Con el aumento de la inteligencia artificial y el aprendizaje automático, podría ser factible procesar enormes cantidades de información muy eficientemente en un solo lugar, para tomar todas las decisiones en un solo lugar, así, el procesamiento de datos centralizado será más eficiente que el procesamiento de datos distribuido. Y la principal desventaja de los regímenes autoritarios en el siglo XX, su intento de concentrar toda la información en un solo lugar, se convertirá en su mayor ventaja.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
Otro peligro tecnológico que amenaza el futuro de la democracia es la fusión de la tecnología de la información con la biotecnología, que podría resultar en la creación de algoritmos que me conozcan mejor que yo mismo. Y una vez que tienes tales algoritmos, un sistema externo, como el gobierno, puede no solo predecir mis decisiones, sino que también puede manipular mis sentimientos, mis emociones. Un dictador quizá no pueda proporcionarme buena atención médica, pero podrá hacer que lo ame y podrá hacerme odiar a la oposición. La democracia tendrá dificultades para sobrevivir a un desarrollo así porque, al final, la democracia no se basa en la racionalidad humana; se basa en los sentimientos humanos. Durante las elecciones y referendos, no te preguntan, "¿Qué piensas?". En realidad te están preguntando, "¿Cómo te sientes?". Y si alguien puede manipular tus emociones de forma efectiva, la democracia se convertirá en un espectáculo de marionetas emocional.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
Así que, ¿qué podemos hacer para evitar el regreso del fascismo y el surgimiento de nuevas dictaduras? La pregunta número uno que enfrentamos es: ¿Quién controla los datos? Si eres ingeniero, encontrarás la forma de evitar que muchos datos estén concentrados en muy pocas manos. Y encontrarás formas de asegurarte de que el procesamiento de datos distribuido sea al menos tan eficiente como el procesamiento de datos centralizado. Esta será la mejor salvaguardia para la democracia. En cuanto al resto de nosotros que no somos ingenieros, la pregunta número uno que enfrentamos es cómo no dejarnos manipular por aquellos que controlan los datos.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
Los enemigos de la democracia liberal, tienen un método. Piratean nuestros sentimientos. No nuestros correos, ni nuestras cuentas bancarias, piratean nuestros sentimientos de miedo, odio y vanidad, y luego usan estos sentimientos para polarizar y destruir la democracia desde adentro. Este es en realidad un método en el que que Silicon Valley fue pionero para vendernos productos. Pero ahora, los enemigos de la democracia están usando este mismo método para vendernos miedo y odio y vanidad. No pueden crear estos sentimientos de la nada. Así que conocen nuestras propias debilidades preexistentes. Y luego las usan contra nosotros. Y, por lo tanto, es responsabilidad de todos nosotros conocer nuestras debilidades y asegurarnos de que no se conviertan en un arma en manos de los enemigos de la democracia.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Conocer nuestras propias debilidades también nos ayudará a evitar la trampa del espejo fascista. Como explicamos antes, el fascismo explota nuestra vanidad. Nos hace vernos mucho más bellos de lo que realmente somos. Esta es la seducción. Pero si realmente te conoces a ti mismo, no te enamorarás de este tipo de adulación. Si alguien pone un espejo frente a tus ojos que oculta todos tus feos pedacitos y te hace verte a ti mismo como mucho más hermoso y mucho más importante de lo que realmente eres, simplemente, rompe ese espejo.
Thank you.
Gracias.
(Applause)
(Aplausos)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Chris Anderson: Yuval, gracias. Dios mío. Es tan agradable verte de nuevo. Entonces, si te entiendo bien, nos estás avisando de dos grandes peligros aquí. Uno es el posible resurgimiento de una forma seductora de fascismo, pero cerca de eso, dictaduras que pueden no ser exactamente fascistas, pero sí controlar todos los datos. Me pregunto si hay una tercera preocupación que algunas personas aquí ya han expresado, que no sean los gobiernos, sino las grandes corporaciones las que controlen todos nuestros datos. ¿Cómo llamas a eso, y cuán preocupados deberíamos estar al respecto?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Yuval Noah Harari: Bueno, al final, no hay una gran diferencia entre las corporaciones y los gobiernos, porque, como dije, la pregunta es: ¿Quién controla los datos? Ese es el verdadero gobierno. Si lo llamas corporación o gobierno... si es una corporación y realmente controla los datos, ese es nuestro verdadero gobierno. Entonces la diferencia es más aparente que real.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
CA: Pero de alguna manera, al menos con las corporaciones, puedes imaginar mecanismos de mercado en que pueden ser eliminadas. Es decir, si los consumidores deciden que la compañía ya no está operando en su interés, se abre la puerta a otro mercado. Parece más fácil imaginar esto que, por ejemplo, ciudadanos que se levantan y derriban un gobierno que está en control de todo.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
YNH: Bueno, todavía no llegamos, pero, de nuevo, si una corporación realmente te conoce mejor de lo que te conoces a ti mismo, al menos que puede manipular tus propias emociones y deseos más profundos, y ni siquiera te das cuenta... pensarás que ese es tu ser auténtico. Entonces, en teoría, sí; en teoría, puedes alzar tu voz contra una corporación, del mismo, en teoría, puedes levantarte contra una dictadura. Pero en la práctica, es extremadamente difícil.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
CA: En "Homo Deus", argumentas que este sería el siglo en que los humanos se convertirán en dioses, ya sea a través del desarrollo de la inteligencia artificial o mediante ingeniería genética. ¿Tiene esta posibilidad de cambio de sistema político, colapso, impacto en tu punto de vista sobre esa posibilidad?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
YNH: Bueno, creo que lo hace aún más probable, y es más probable que suceda más rápido, porque en tiempos de crisis, las personas están dispuestas a asumir riesgos que de otro modo no tomarían. Y la gente está dispuesta a probar todo tipo de tecnologías de alto riesgo y alta ganancia. Así, este tipo de crisis podría servir para la misma función que las dos guerras mundiales en el siglo XX. Las dos guerras mundiales aceleraron enormemente el desarrollo de nuevas y peligrosas tecnologías. Y lo mismo podría suceder en el siglo XXI. Quiero decir, debes estar un poco loco para correr demasiado rápido, digamos, con ingeniería genética. Pero ahora tienes más y más gente loca a cargo de diferentes países en el mundo, entonces las posibilidades son cada vez mayores, no más bajas.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
CA: Entonces, poniendo todo junto, Yuval, tienes esta visión única. Haz rodar el reloj 30 años. ¿Qué supones? ¿La humanidad simplemente se arrastra de alguna manera mira hacia atrás y dice: "Guau, eso estuvo cerca. ¡Lo logramos!"... o no?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
YNH: Hasta ahora, hemos logrado superar todas las crisis anteriores. Y especialmente si nos fijamos en la democracia liberal y piensas que las cosas están mal ahora, solo recuerda cuánto peores se veían las cosas en 1938 o en 1968. Así que esto realmente no es nada, esta es solo una pequeña crisis. Pero nunca se puede saber, porque, como historiador, sé que nunca debes subestimar la estupidez humana.
(Laughter) (Applause)
(Risas) (Aplausos)
It is one of the most powerful forces that shape history.
Es una de las fuerzas más poderosas que dan forma a la historia.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
CA: Yuval, ha sido una absoluta delicia tenerte con nosotros. Gracias por hacer el viaje virtual. Que tengas una gran velada en Tel Aviv. ¡Yuval Harari!
YNH: Thank you very much.
YNH: Muchas gracias.
(Applause)
(Aplausos)