Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Bine v-am găsit! Este hilar, am scris recent că oamenii se vor digitaliza, dar n-am crezut că se va întâmpla atât de repede și că mi se va întâmpla mie. Dar iată, apar aici ca un avatar digital şi voi sunteţi deja aici, aşa că haideţi să începem. Să începem cu o întrebare: Câţi fascişti sunt în public azi?
(Laughter)
(Râsete)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
Mda, e destul de dificil de estimat, pentru că am uitat ce înseamnă de fapt fascismul. Oamenii folosesc acum termenul fascist într-un mod general, neclar. Sau confundă fascismul cu naţionalismul. Aşa că haideţi să clarificăm ce înseamnă de fapt fascismul şi cum diferă de naţionalism.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
Forme uşoare de naţionalism reprezintă în esenţă creaţii umane pozitive. Naţiunile sunt comunităţi de milioane de străini care nu se cunosc de fapt între ei De exemplu, eu nu-i cunosc personal pe cei opt milioane de conaţionali israeliţi. Dar, mulţumită naţionalismului, ne pasă tuturor de binele celorlalţi, şi cooperăm eficient. Asta e foarte bine. Unii, precum John Lennon, şi-au imaginat că fără naţionalism, lumea ar fi un paradis al păcii. Dar, mult mai probabil, fără naţionalism, am trăi cu toţii într-un haos tribal. dacă ne uităm la cele mai pacifiste și prospere țări din lume, țări precum Suedia, Elveția sau Japonia, vom vedea că ele au toate un pronunțat simț național. În contrast, țările cărora le lipsește sentimentul național, precum Congo, Somalia și Afganistan tind să fie violente și sărace.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Deci ce este fascismul, și cum diferă el de naționalism? Naționalismul spune că națiunea mea e unică și că eu am obligații speciale față de ea. Fascismul, din contră, spune că națiunea mea e supremă și că am obligații exclusive față de ea. Că nu trebuie să-mi pese de nimic altceva în afara națiunii mele. De obicei, oamenii au mai multe identități și afilieri la felurite grupuri. Spre exemplu, pot să fiu patriot, loial țării mele și în același timp să fiu loial familiei, comunității, profesiei, omenirii întregi, adevărului şi frumuseții. Evident, când am identități și afilieri diferite, apar uneori complicații sau conflicte. Dar cine v-a spus vreodată că viața va fi ușoară? Viața este complicată. Luați-o ca atare!
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
Fascismul este ceea ce apare când încercăm să ignorăm complicațiile, când vrem să simplificăm absolut totul. Fascismul neagă orice altă identitate în afara celei naționale și insistă că avem obligații doar față de națiune. Dacă națiunea cere sacrificiul familiei, atunci trebuie să-mi sacrific familia. Dacă națiunea cere să omor milioane de oameni, atunci voi omorî milioane de oameni. Tot așa, dacă națiunea cere să trădez adevărul și frumusețea, atunci le voi trăda. Spre exemplu, cum evaluează un fascist arta? Cum decide dacă un film e bun sau prost? E extrem de simplu! Există o singură regulă: dacă filmul servește interesului național, este un film bun; daca filmul nu servește interesul național este unul prost. Asta e tot. Tot așa, cum decide fascismul ce trebuie să învățăm la școală? Din nou, e foarte simplu. Există o singură regulă: Copiii trebuie să învețe ce servește cel mai bine interesului național. Adevărul are mai puțină importanță.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
Ororile celui de-al doilea război mondial șI Holocaustului ne aduc aminte care sunt consecințele acestui mod de gândire. Dar de obicei, dacă vorbim despre relele fascismului, o facem într-un mod ineficient, pentru că tindem să descriem fascismul ca un monstru oribil, fară să explicăm de fapt ce îl face atât de atractiv. E la fel ca în filmele Hollywood, în care personajele negative - Vodermort sau Sauron, sau Darth Vader - sunt urâte, meschine și crude. Sunt crude chiar cu propriii adepți. În aceste filme nu am înțeles niciodată - de ce l-ar urma cineva pe un monstru oribil ca Voldemort? Problema este de fapt că, în viața de zi cu zi, răul nu arată de fapt deloc oribil. Poate arăta chiar foarte frumos. Acest fapt era binecunoscut de către creștini, de aceea în arta creștină, spre deosebire de Hollywood, Satan arată de multe ori ca un bărbat armonios. De aceea e atât de greu de rezistat tentațiilor lui și tot așa, tentațiilor fascismului.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
Fascismul îi face pe oameni să se vadă altfel, ca și cum ar fi cel mai frumos și important lucru din lume: națiunea. Și apoi oamenii se întreabă: „Ni s-a spus că fascismul este oribil. Dar atunci când mă uit în oglindă, văd ceva deosebit de frumos, deci nu pot fi fascist, nu?” Greșit! Asta este problema cu fascismul. Atunci când ne vedem în oglinda fascismului, ne vedem pe noi înșine mult mai frumoși decât suntem în realitate. În 1930, când nemții se priveau pe ei în oglinda fascismului, ei vedeau Germania ca fiind cea mai frumoasă țară din lume. Dacă azi rușii se uită în oglinda fascismului, ei vor vedea Rusia ca cea mai frumoasă țară din lume. La fel și Israelul, în oglinda fascistă, apare ca cea mai frumoasă țară din lume. Asta nu înseamnă că retrăim anii 1930.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
Fascismul sau dictaturile s-ar putea întoarce, dar o vor face într-o formă nouă, o formă adaptată la realitățile tehnologice ale secolului XXI. În vremuri străvechi, pământul era cel mai important bun. Politica însemna de fapt controlul pământului. Și dictaturile însemnau atunci că pământul era deținut de o singură persoană, de un oligarh. În vremurile moderne, industria a devenit mai importantă decât pământul, politica s-a transformat într-o luptă pentru controlul industriei. Iar dictatura însemna că prea multă industrie se concentra în mâinile guvernului sau ale unei elite restrânse. În vremurile noastre, datele înlocuiesc atât pământul cât și industria ca fiind cel mai important bun. Politica devine deci o luptă pentru controlul datelor. și dictatura înseamnă că prea multe date sunt concentrate în mâinile guvernului sau ale unei elite restrânse.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
Cel mai mare pericol actual pentru democrație este revoluția în tehnologia informațiilor care va face dictaturile mai eficiente decât democrațiile.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
În secolul trecut, democrația și capitalismul au învins fascismul și comunismul deoarece democrația a fost mai bună la prelucrarea datelor și luarea deciziilor. Cu tehnologia secolului trecut, era ineficient ca prea multe date și prea multă putere să fie concentrate într-o singură mână.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
Dar nu este o regulă că procesarea centrală a datelor e mai ineficientă decât procesarea lor distribuită. Cu avansurile în inteligență artificială va deveni posibilă procesarea unor cantități colosale de date centralizat în mod eficient, toate deciziile se vor putea lua într-un singur loc și atunci prelucrarea centralizată a datelor va fi mai eficientă decât cea distribuită. Atunci marea lipsă a regimurilor dictatoriale din secolul XX - încercarea lor de a concentra datele într-un singur punct - va deveni brusc avantajul lor esențial.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
Un alt pericol adus de tehnologie care amenință viitorul democrației este confluența sectorului IT cu biotehnologia, care va aduce algoritmi ce mă vor cunoaște mai bine decât mă cunosc eu însumi. Având așa algoritmi, un sistem extern, cum ar fi guvernul, va putea nu numai să-mi prezică deciziile, dar va putea să-mi manipuleze sentimentele, emoțiile. Un dictator va putea oferi nu numai îngrijire medicală, dar ne va putea face să îl iubim și să urâm opoziția. Democrația va supraviețui foarte greu deoarece, în esență, democrația nu se bazează pe rațiune, ci pe emoție. În perioada electorală, nu suntem de fapt întrebați „Ce gândești?” ci: „Ce simți despre asta?” Și dacă emoțiile se pot manipula atât de bine, democrația va deveni un teatru al emoțiilor.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
Ce putem noi face pentru a preveni revenirea fascismului și reapariția dictaturilor? Întrebarea numărul unu este: cine controlează datele? Dacă lucrezi în tehnologie, atunci poți căuta metode de a preveni ca prea multe date să se concentreze în prea puține mâini. Și caută metode care să asigure că procesarea descentralizată a datelor e cel puțin la fel de eficientă ca procesarea lor centralizată. Asta va salva democrația. Și pentru restul, care nu lucrăm în domeniul tehnologic, întrebarea la care trebuie să ne gândim este cum să evităm să ne lăsăm manipulați de cei care controlează datele.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
Dușmanii democrației au o metodă. Ei ne modifică sentimentele. Nu email-urile, nu conturile din bancă, ci sentimentele de frică, ură sau mândrie pentru a le folosi apoi pentru a polariza și distruge democrația din interior. Această metodă a fost creată de fapt în Silicon Valley, pentru a ne vinde produse. Dar acum, dușmanii democrației folosesc aceeași metodă pentru a ne vinde ură și vanitate. Ei nu pot crea sentimente din nimic. Ei trebuie să ne cunoască slăbiciunile pentru a le folosi împotriva noastră. Este deci responsabilitatea tuturor să ne cunoaștem slăbiciunile și să fim siguri că ele nu vor deveni armă în mâna dușmanilor democrației.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Cunoașterea propriilor slăbiciuni ne va ajuta de asemenea să nu cădem în capcana fascistă. Cum am zis, fascismul se folosește de vanitate. Ne face să ne vedem mult mai frumoși decât suntem de fapt. E seductiv! Dar dacă te cunoști pe tine însuți, nu vei cădea în această capcană fadă. Dacă cineva îți pune în față o oglindă care ascunde toate defectele și te face să te vezi ca mult mai frumos, mai important decât ești tu de fapt, atunci pur și simplu, sparge oglinda!
Thank you.
Vă mulțumesc.
(Applause)
(Aplauze)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Chris Anderson: Yuval, mulțumim. Doamne! Mă bucur să te văd din nou. Deci, dacă te-am înțeles bine, ne avertizezi de două pericole mari. Unul e o posibilă revenire a unei forme seductive de fascism, sau dictaturi care nu sunt exact fasciste, dar controlează toate datele. Mă întreb dacă este și o a treia problemă exprimată deja de unii dintre cei prezenți, și anume dacă nu guvernele, ci corporațiile ne controlează datele. Ce spui despre asta, și câte griji ar trebui să ne facem?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Yuval Noah Harari: Până la urmă, între corporații și guverne nu este o diferență atât de mare. Precum am spus, întrebarea este: Cine controlează datele? Acesta e adevăratul guvern. Dacă îi spunem corporație sau guvern - dacă este o corporație care controlează toate datele, atunci acesta este adevăratul guvern. deci diferența este mai mult aparentă decât reală.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
CA: Dar, uneori, în ce privește corporațiile, ne-am putea imagina mecanisme de control. Adică, dacă clienții decid că o companie nu mai operează în interesul lor, se deschide piața pentru concurență. E mai ușor de imaginat decât, să zicem, o răsturnare de guvern care controlează totul.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
YNH: Încă nu am ajuns acolo, dar dacă o companie ne cunoaște mai bine decât noi înșine, ne poate manipula cele mai adânci emoții și dorințe fără măcar s-o realizăm - așa încât vom crede că nu suntem influențați. Deci da, teoretic ne-am putea revolta contra unei corporații tot așa cum teoretic ne-am putea revolta contra unei dictaturi. Dar practic ar fi foarte dificil.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
CA: În „Homo Deus”, argumentezi că acesta este secolul în care omul va deveni zeu, fie prin dezvoltarea inteligenței artificiale, fie prin manipulări genetice. Are vreun impact prospectul acestui colaps politic asupra părerii tale?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
YNH: De fapt, cred că o face tot mai iminentă, și cel mai probabil se va petrece mai repede deoarece în vremuri de criză, oamenii sunt dispuși să-și asume riscuri pe care nu le-ar lua în alte condiții. Și oamenii devin dispuși să încerce tot felul de tehnologii riscante. Deci aceste crize ar putea avea același efect pe care l-au avut războaiele mondiale în secolul XX. Cele două războaie au accelerat progresul tehnologiilor noi și periculoase. Ceva similar s-ar putea întâmpla în secolul XXI. Pare riscant să experimentăm cu ingineria genetică. Dar lumea e acum condusă de oameni dispuși să-și asume riscuri, deci șansele cresc, nu scad.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
CA: Ca să simplificăm, Yuval, viziunea ta e unică. Dacă am călători în timp 30 de ani, crezi că omenirea se va uita în urmă și va spune: „Uau, a fost cât pe ce!” Sau nu?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
YNH: Până acum, am reușit să depășim toate crizele trecute. Mai ales daca te uiți la democrația liberală și dacă crezi că lucrurile merg rău acum, doar adu-ți aminte cât de rău mergeau în 1938 sau 1968. Deci acestea sunt crize minore. Dar nu putem ști niciodată, deoarece, ca istoric, știu că stupizenia umană nu trebuie subapreciată niciodată!
(Laughter) (Applause)
(Râsete) (Aplauze)
It is one of the most powerful forces that shape history.
E una dintre forțele majore care modelează istoria.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
CA: Yuval, a fost o deosebită plăcere să te avem aici cu noi. Mulțumim pentru prezența virtuală. Să ai o seară frumoasă în Tel Aviv. Yuval Harari
YNH: Thank you very much.
YNH: Mulțumesc foarte mult.
(Applause)