Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Salve a tutti. È buffo, perché tempo fa ho scritto che gli esseri umani diventeranno digitali, ma non credevo che sarebbe successo così presto e che sarebbe successo a me. Invece sono qua, come un'immagine digitale, voi siete qui, perciò iniziamo. Iniziamo con una domanda. Quanti fascisti ci sono tra il pubblico oggi?
(Laughter)
(Risate)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
È piuttosto difficile a dirsi, perché abbiamo dimenticato cosa sia il fascismo. Le persone usano oggi il termine "fascista" per indicare la prepotenza in generale. Oppure confondono il fascismo con il nazionalismo. Perciò prendiamoci qualche minuto per chiarire che cosa sia il fascismo e come sia diverso dal nazionalismo.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
La forme moderate di nazionalismo sono state una delle invenzioni più caritatevoli dell'uomo. Le nazioni sono comunità di milioni di estranei che non si conoscono tra loro. Ad esempio, io non conosco gli otto milioni di persone con cui condivido la mia cittadinanza israeliana. Ma grazie al nazionalismo, possiamo collaborare e aiutarci a vicenda in maniera efficace. Questa è un'ottima cosa. Alcuni, come John Lennon, credono che senza il nazionalismo il mondo sarebbe un paradiso pacifico. È invece più probabile che, senza il nazionalismo, avremmo finito per vivere in un caos tribale. Se prendiamo in esame i paesi che oggi sono i più ricchi e pacifici al mondo, paesi come la Svezia, la Svizzera e il Giappone, vediamo che hanno un forte sentimento nazionalista. Al contrario, paesi dove manca un forte sentimento nazionalista, come il Congo, la Somalia e l'Afghanistan, tendono ad essere violenti e poveri.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Che cos'è quindi il fascismo e come si distingue dal nazionalismo? Il nazionalismo mi dice che la mia nazione è unica, e che io ho precisi doveri nei confronti della mia nazione. Il fascismo, invece, mi dice che la mia nazione al di sopra di tutti, e che io ho degli obblighi esclusivamente verso di essa. Non mi devo preoccupare di nulla e di nessuno eccetto che la mia nazione. Normalmente viene naturale avere diverse identità ed essere fedele a gruppi diversi. Per esempio, posso essere un buon patriota fedele alla mia nazione, e allo stesso tempo posso essere fedele alla mia famiglia, ai mie vicini, alla mia professione, all'umanità intera, alla verità e alla bellezza. Certamente, quando possiedo diverse identità e fedeltà, qualche volta questo genera conflitti e difficoltà. Però, chi ha mai detto che la vita sia facile? La vita è complicata. Va gestita.
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
Il fascismo si realizza quando le persone provano a ignorare le difficoltà per rendersi la vita molto più semplice. Il fascismo nega tutte le identità ad eccezione dell'identità nazionale e insiste perché i miei obblighi siano soltanto verso la mia nazione. Se la mia nazione esige che io sacrifichi la mia famiglia, allora sacrificherò la mia famiglia. Se la nazione esige che io uccida milioni di persone, allora ucciderò milioni di persone. E se la mia nazione esige che io tradisca verità e bellezza, allora dovrei tradire verità e bellezza. Per esempio, in che modo un fascista considera l'arte? Con quale criterio un fascista decide che un film è bello o brutto? È davvero molto, molto, molto semplice. Esiste un solo e unico parametro: se il film è al servizio degli interessi della nazione allora è un buon film; se il film non è al servizio degli interessi della nazione, è un brutto film. Tutto qui. Allo stesso modo, come decide un fascista che cosa insegnare ai bambini a scuola? È di nuovo molto semplice. Esiste un solo e unico criterio: si insegna ai bambini tutto quello che serve all'interesse della nazione. La verità non ha alcuna importanza.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
Gli orrori della Seconda Guerra Mondiale e quelli dell'Olocausto ci ricordano le terribili conseguenze di questo modo di pensare. Tuttavia, quando parliamo dei mali del fascismo lo facciamo in maniera del tutto inefficace perché tendiamo a dipingere il fascismo come un mostro ripugnante, senza spiegare davvero perché è così seducente. È un po' come nei film di Hollywood dove i personaggi negativi, Voldemort o Sauron o Dart Fener, sono sempre brutti, meschini e crudeli. Sono crudeli anche verso i loro compagni. Quando vedo questo genere di film, non capisco perché mai si dovrebbe essere tentati di seguire un viscido come Voldemort? Il problema con il male è che nella realtà non deve per forza essere brutto. Può essere molto bello. È qualcosa che il Cristianesimo sapeva molto bene, per cui nell'arte cristiana, diversamente da Hollywood, Satana è normalmente rappresentato come un gran pezzo d'uomo. Questo spiega perché è tanto difficile resistere alle tentazioni di Satana e perché è altrettanto difficile resistere alle tentazioni del fascismo.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
Il fascismo spinge le persone a considerare se stesse come parte di qualcosa di assolutamente meraviglioso e importante nel mondo: la nazione. Allora la gente pensa: "Ci hanno insegnato che il fascismo è brutto. Ma quando guardo nello specchio, vedo qualcosa di molto bello, quindi io non posso essere un fascista, giusto?" Sbagliato. Questo è il problema del fascismo Quando guardate nello specchio fascista, voi vedete voi stessi molto più belli di quanto non lo siate in realtà. Negli anni Trenta, quando i Tedeschi guardarono nello specchio del fascismo, videro la Germania come la cosa più bella del mondo. Se oggi i Russi guardassero nello specchio del fascismo, vedrebbero la Russia come la cosa più bella del mondo. Se gli Israeliani guardassero nello specchio del fascismo, vedrebbero Israele come la cosa più bella del mondo. Questo non significa che oggi stiamo vedendo un ritorno degli anni Trenta.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
Il fascismo e le dittature potrebbero ritornare, ma ritornerebbero sotto una forma nuova, una forma molto più adatta alle nuove realtà tecnologiche del ventunesimo secolo. Nei tempi antichi, la terra era il bene più importante al mondo. Governare era quindi combattere per avere il controllo del territorio. Dittatura significava che tutta la terra apparteneva a un solo sovrano o a una ristretta oligarchia. Nell'era moderna, le macchine diventarono più importanti della terra. Governare era diventato combattere per avere il controllo delle macchine. Dittatura significava che un numero troppo elevato di macchine era concentrato nelle mani di un governo o di un gruppo di pochi eletti. Oggi, i dati stanno rimpiazzando la terra e le macchine come la risorsa più importante. Governare diventa combattere per il controllo dei flussi di dati. Dittatura oggi significa che troppi dati sono accumulati nelle mani di un governo o di una ristretta élite.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
Oggi, il più grande pericolo per le democrazie liberali è che i veloci cambiamenti nella tecnologia dell'informazione renderanno le dittature più efficienti delle democrazie.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
Nel ventesimo secolo, la democrazia e il capitalismo hanno sconfitto fascismo e comunismo perché la democrazia era più brava a elaborare i dati e prendere decisioni. Data la tecnologia del ventesimo secolo, era semplicemente improduttivo tentare di concentrare molti dati e molto potere in un solo posto.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
Ma non è una legge di natura che l'elaborazione centralizzata dei dati sia sempre meno efficiente rispetto all'elaborazione distribuita dei dati. L'ascesa dell'intelligenza artificiale e dell'apprendimento automatico potrebbero rendere possibile elaborare enormi quantità di informazioni in modo molto efficiente in un solo posto, per prendere tutte le decisioni in un solo posto, allora l'elaborazione centralizzata dei dati sarà più efficiente rispetto all'elaborazione distribuita dei dati. Allora, il maggior svantaggio dei regimi autoritari del ventesimo secolo, il loro tentativo di concentrare tutte le informazioni in un solo posto, si trasformerà nel loro più grande vantaggio.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
Un altro pericolo tecnologico che minaccia il futuro della democrazia è l'unione tra la tecnologia dell'informazione e la biotecnologia, che potrebbe dare come risultato la creazione di algoritmi che mi conoscono meglio di quanto io conosca me stesso. Quando si possiedono questi algoritmi, un sistema esterno, come un governo, non solo può prevedere le mie decisioni, ma può anche manipolare i miei sentimenti, le mie emozioni. Un dittatore potrebbe non essere in grado di fornire un buon sistema sanitario ma sarà in grado di convincermi ad amarlo e di farmi provare odio per chi gli si oppone. La democrazia difficilmente potrà sopravvivere a un tale cambiamento perché, in sostanza, la democrazia non è fondata sulla razionalità umana; ma si basa sulle emozioni umane. Durante le elezioni o i referendum non vi viene chiesto: "Che ne pensi?" In realtà vi chiedono: "Come ti senti?" Se qualcuno potesse manipolare adeguatamente le vostre emozioni, la democrazia si trasformerebbe in un teatrino dei sentimenti.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
Che cosa possiamo fare per prevenire il ritorno del fascismo e la nascita di nuove dittature? La prima domanda che ci dobbiamo fare è: chi controlla i dati? Se siete degli ingegneri, trovate un sistema per evitare che troppi dati siano concentrati in poche mani. E trovate un modo per garantire che l'elaborazione distribuita dei dati sia efficiente almeno tanto quanto l'elaborazione centralizzata dei dati. Questo sarebbe il sistema migliore per salvaguardare la democrazia. Ma per tutti quelli di noi che non sono ingegneri, la domanda principale a cui dobbiamo rispondere è come fare per impedire di venire manipolati da chi ha il controllo dei dati.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
I nemici della democrazia liberale, loro sì hanno un metodo. Loro manipolano le nostre emozioni. Non le nostre email o il nostro conto in banca, loro manipolano i nostri sentimenti di rabbia, odio e vanità e poi usano queste emozioni per frammentare e distruggere la democrazia dall'interno. In realtà questo è il metodo che la Silicon Valley ha usato per prima con lo scopo di vendere i suoi prodotti. Ma oggi, i nemici della democrazia usano proprio questo metodo per venderci paura, odio e arroganza. Loro non possono creare queste emozioni dal nulla. Perciò devono capire le debolezze che già abbiamo per poi usarle contro di noi. È quindi responsabilità di noi tutti capire quali sono le nostre debolezze per fare in modo che esse non si trasformino in un'arma nelle mani dei nemici della democrazia.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Saper riconoscere le nostre personali debolezze ci aiuterà a evitare anche la trappola dello specchio del fascismo. Come abbiamo detto prima, il fascismo sfrutta la nostra vanità. Ci fa vedere noi stessi molto meglio di quanto siamo in realtà. È questa la seduzione. Ma se voi conoscete davvero voi stessi, non vi lascerete ingannare da una tale lusinga. Se qualcuno metterà uno specchio davanti ai vostri occhi che nasconde i vostri difetti e vi fa vedere molto più belli e più importanti di ciò che in realtà siete, allora rompete quello specchio.
Thank you.
Grazie.
(Applause)
(Applausi)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Chris Anderson: Grazie, Yuval. Mamma mia! Mi fa piacere incontrarti di nuovo. Quindi, se ho ben capito, ci stai mettendo in guardia contro due grossi pericoli. Uno è la possibile ricomparsa di una seducente versione del fascismo, e inoltre, che le dittature potrebbero non essere esattamente di tipo fascista, ma potrebbero avere il controllo dei dati. Mi chiedo se non ci sia un terzo problema, di cui si è già parlato in questa sede, che siano le multinazionali non i governi a controllare tutti i nostri dati. Come definisci tutto questo e come dovremmo preoccuparcene?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Yuval Noah Harari: In fondo non c'è una così grande differenza tra le multinazionali e i governi, perché, come ho detto, la domanda è: chi ha il controllo dei dati? Questo è il vero governo. Che lo si chiami multinazionale o governo, se è una multinazionale quella che realmente controlla i dati, questo è il governo effettivo. Quindi la differenza è più apparente che reale.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
CA: Tuttavia, almeno con le multinazionali si può pensare che le leggi di mercato possano farle cadere. Voglio dire, se i consumatori decidono che un'azienda non agisce più nel loro interesse, questo apre la porta a un nuovo mercato. Sembra più facile pensare questo piuttosto che, diciamo, dei cittadini possano eliminare un governo che ha il controllo di tutto.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
YNH: Non siamo ancora a quel punto, ma se una multinazionale ti conosce meglio di quanto tu conosci te stesso, può essere in grado di manipolare i tuoi più intimi desideri ed emozioni, e tu non ne saresti consapevole, penseresti di essere autenticamente te stesso. In teoria, solo in teoria, tu puoi ribellarti contro una multinazionale, così come, in teoria, ti puoi ribellare a una dittatura. Ma in pratica, è davvero molto difficile.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
CA: In "Homo Deus" tu sostieni che in questo secolo gli esseri umani diventeranno divinità, sia attraverso lo sviluppo dell'intelligenza artificiale che per mezzo dell'ingegneria genetica. Questa prospettiva di cambiamenti politici, di crisi ha influenzato il tuo pensiero circa quella possibilità?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
NYH: Io credo che la renda ancora più probabile, e che molto probabilmente accadrà in tempi più rapidi, perché nei periodi di crisi, le persone sono propense a correre dei rischi che altrimenti non avrebbero corso. La gente è disposta a provare qualsiasi tecnologia ad alto rischio fortemente migliorativa. Perciò questo genere di crisi potrebbero avere la stessa funzione delle due guerre mondiali nel ventesimo secolo. Le due guerre mondiali hanno dato una forte spinta allo sviluppo di nuove e pericolose tecnologie. Lo stesso potrebbe accadere nel ventunesimo secolo. Voglio dire, devi essere un po' pazzo per spingerti troppo avanti, diciamo, con l'ingegneria genetica. Ma oggi abbiamo sempre più gente folle al comando in molti paesi del mondo, perciò le possibilità sono maggiori anziché minori.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
CA: Quindi, Yuval, ricapitolando, tu hai questa visione globale. Andiamo avanti di 30 anni. Che ne pensi, in qualche modo il genere umano si salva per un pelo, si guarda indietro e dice: "Accidenti, c'è mancato poco!" Oppure no?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
YNH: Fino ad ora siamo riusciti a superare tutte le crisi precedenti. In modo particolare, se consideri le democrazie liberali e pensi che oggi le cose vanno male, pensa solo a quanto peggio sembravano andare nel 1938 o nel 1968. Oggi è niente, questa è una crisi piccola. Ma non si può mai sapere perché, da storico, io so che non si deve mai sottovalutare la stupidità umana.
(Laughter) (Applause)
(Risate) (Applausi)
It is one of the most powerful forces that shape history.
È una delle forze più potenti che modellano la storia.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
CA: Yuval, averti con noi è stato un grandissimo piacere. Grazie per questo tuo viaggio virtuale. Buona serata a Tel Aviv. Yuval Harari!
YNH: Thank you very much.
YNH: Grazie. Grazie mille
(Applause)
(Applausi)