Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Üdvözlök mindenkit. Kissé vicces, mert arról írtam, hogy az ember digitálissá válik, de nem hittem, hogy ennyire hamar, és hogy én válok azzá. De mint digitális avatár én itt, önök pedig ott – kezdjük is el! Kezdjük egy kérdéssel! Hány fasiszta van a közönségben most?
(Laughter)
(Nevetés)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
Kissé nehéz megmondani, mert elfelejtettük, mi a fasizmus. Ma a <i>fasiszta</i> megnevezést egyfajta univerzális szitokszóként használjuk. Vagy összekeverjük a nacionalizmussal. Ezért szánjunk rá néhány percet, hogy tisztázzuk, mi a fasizmus, és miben különbözik a nacionalizmustól.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
A nacionalizmus enyhébb változata az emberiség egyik legjóindulatúbb találmánya volt. A nemzet milliónyi, egymást nem ismerő idegen közösségéből áll. Például nem ismerem azt a 8 millió embert, aki szintúgy izraeli állampolgár, mint én. De a nacionalizmusnak hála, oda tudunk figyelni egymásra, és hatékonyan együttműködünk. Ez remek. Egyesek, mint pl. John Lennon szerint nacionalizmus nélkül a világ békés édenkert lenne. De valószínűbb az, hogy nélküle törzsi káoszban élnénk. Ha megnézzük a világ legvirágzóbb, legbékésebb országait, például Svédországot, Svájcot, Japánt, látni fogjuk a nacionalizmus erős jelenlétét náluk. Ezzel szemben, ahol a nacionalizmus nincs olyan erősen jelen, mint pl. Kongóban, Szomáliában, Afganisztánban, inkább erőszakosak és szegények.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Tehát, mi a fasizmus, és miben tér el a nacionalizmustól? A nacionalizmus szerint a nemzetem egyedülálló, és egyedi kötelezettségeim vannak iránta. Ezzel szemben a fasizmus szerint a nemzetem felsőbbrendű, és mindent kizáró kötelezettségeim vannak iránta. Senkivel, semmivel nem kell törődnöm a nemzetemen kívül. Általában többféle identitásunk van, és többféle csoporthoz vagyunk hűek. Például lehetek jó hazafi, hű az országomhoz, de egyszerre hű családomhoz, szomszédaimhoz, szakmámhoz, az egész emberiséghez, az igazsághoz, a szépséghez. Az eltérő identitások, és a hűség más-más formái néha konfliktusokat és bonyodalmakat teremtenek. De ki mondja, hogy az élet könnyű? Az élet bonyolult. El kell fogadni.
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
Fasizmus abból lesz, ha megpróbáljuk félretenni a bonyodalmakat, és az életet túl könnyűvé varázsolni. A fasizmus a nemzeti identitáson kívül minden más identitást tagad, és bizonygatja, hogy csakis a nemzetem iránt vannak kötelezettségeim. Ha a nemzetem azt követeli, hogy áldozzam fel családom, akkor feláldozom a családom. Ha a nemzetem azt követeli, öljek meg milliónyi embert, akkor megölök milliónyi embert. Ha a nemzetem pedig azt követeli, áruljam el az igazságot és a szépséget, akkor el kell árulnom azokat. Például, hogyan értékeli a fasizmus a művészetet? Hogyan dönti el, hogy egy film, jó-e vagy nem? Nagyon-nagyon egyszerűen. Igazából egyetlen mérce van: ha a film nemzetem érdekét szolgálja, jó film; ha a film nem szolgálja nemzetem érdekét, rossz film. Ennyi. Ugyanígy: hogyan dönti el a fasizmus, mit tanítsanak a gyerekeknek az iskolában? Ismételten nagyon egyszerűen. Csak egy mérce van: azt tanítjuk a gyerekeknek, ami a nemzet érdekét szolgálja. Az igazság egyáltalán nem számít.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
A II. világháború és a holokauszt rémségei emlékeztetnek ezen gondolkodásmód szörnyű következményeire. De a fasizmus gonoszságainak ecsetelése közben legtöbbször nem hatékonyan járunk el, hiszen egy ocsmány szörnyként írjuk le anélkül, hogy megmagyaráznánk, miért ejt annyira rabul. Olyan ez, mint a holywoodi filmek rosszfiúinak – Voldemortnak, Sauronnak vagy Darth Vadernek – a leírása: rútak, gorombák, kegyetlenek. Még a támogatóikkal is kegyetlenek. Ezeknél a filmeknél sohasem értettem: hogy bír valaki egy ilyen undorító mocsok mellé állni, mint Voldemort? A gond az, hogy a való életben a gonosz nem szükségszerűen rút. Néha nagyon is szép. Ezt a kereszténység tudta nagyon jól, és ezért a keresztény művészetben – a holywoodival ellentétben – a Sátánt rendszerint gyönyörű izompacsirtaként ábrázolták. Ezért annyira nehéz ellenállni a Sátán kísértéseinek, és ezért annyira nehéz ellenállni a fasizmus kísértéseinek is.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
A fasizmus azt érezteti az emberekkel, hogy a világ legszebb és legfontosabb valamijéhez tartoznak: a nemzethez. Majd ezt gondolják: "Igen, azt tanították, a fasizmus rút. De ha tükörbe nézek, valami szépet látok, tehát nem lehetek fasiszta, igaz?" Tévedés. Ez a gond a fasizmussal. Amikor a fasizmus tükrébe néznek, önmagukat sokkal szebbnek látják, mint amilyenek valójában. 1930-ban, amikor a németek a fasizmus tükrébe néztek, Németországot a világ legszebb valamijeként látták. Ha a mai oroszok néznek a fasizmus tükrébe, Oroszországot a világ legszebb valamijeként látják. Ha az izraeliek néznek a fasizmus tükrébe, Izraelt a világ legszebb valamijeként látják. Ez nem az 1930-as évekkel való újbóli szembenézést jelenti.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
A fasizmus és a diktatúra visszatérhet, de új változatban, olyanban, ahol nagyobb szerepet kap a 21. sz. új technológiai valósága. Az ókorban a föld volt a legfontosabb vagyontárgy. Ezáltal a politika a föld ellenőrzéséért vívott harcról szólt. Diktatúrákban minden föld egyetlen vezér kezében vagy pár kiskirály kezében összpontosult. Aztán a modernitásban a gép fontosabb lett a földnél. A politikából a gépek ellenőrzéséért vívott harc lett. Diktatúrákban ekkor túl sok gép központosult a kormány vagy egy szűk elit kezében. Most a föld és a gép helyébe az adat mint legfontosabb vagyontárgy lép. A politika az adatáramlás ellenőrzéséért vívott harcról fog szólni. Diktatúrákban manapság túl sok adat központosul a kormány vagy egy szűk elit kezében.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
A liberális demokrácia ma leginkább azzal a veszéllyel néz szembe, hogy az információs technológia forradalma a diktatúrákat sokkal hatékonyabbá fogja tenni, mint a demokráciákat.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
A 21. században a demokrácia és a kapitalizmus végzett a fasizmussal és a kommunizmussal, mert a demokrácia jobb volt adatfeldogozásban és döntéshozatalban. 20. századi technológiával egyszerűen nem érné meg egy kézben központosítani annyi adatot és hatalmat.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
De nem a természet rendje az, hogy kevésbé hatékony a központosított adatfeldolgozás, mint az osztott adatfeldogozás. A mesterséges intelligencia és a gépi tanulás előretörésével kieszközölhetővé válhat hatalmas mennyiségű adatok feldolgozása; nagyon hatékonyan, egy helyen, hogy minden döntést egy helyen hozzanak, és a központosított adatfeldolgozás így hatékonyabb lesz, mint az osztott adatfeldolgozás. Aztán a 20. század autoriter rendszereinek legfőbb hátulütője – azaz az összes információ együvé központosításának megkísérlése – a legnagyobb előnyükké fog válni.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
A demokrácia jövőjét fenyegető másik technológiai veszély az információs technológia és a biotechnológia egyesülése, amely olyan algoritmusok létrejöttét hozhatja el, melyek jobban ismernek engem, mint én saját magam. Ha pedig megvan az az algoritmus, egy külső rendszer, mint pl. a kormány, nemcsak képes megjósolni döntéseim, hanem képes manipulálni érzelmeim és érzéseim is. Egy diktátor talán nem tud nekem jó egészségügyi ellátást biztosítani, de képes megszerettetni magát velem, az ellenfelét pedig meggyűlöltetni. A demokrácia nehezen fog túlélni efféle fejlődést, mert végeredményben a demokrácia nem az emberi racionalitásra épít, hanem az emberi érzelmekre. Választások, népszavazások idején nem azt kérdezik: "Mit gondol?" Hanem igazából azt: "Hogy érez?" Aztán ha valaki hatékonyan tudja manipulálni az érzelmeket, a demokrácia érzelmi bábszínházzá válik.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
De mit tehetünk, hogy megelőzzük a fasizmus visszatérését és az új diktatúrák előretörését? Az első számú kérdés számunkra: ki rendelkezik az adatok felett? Ha önök mérnökök, jöjjenek rá, hogyan előzhető meg, hogy túl sok adat kevés kézben központosuljon. Jöjjenek rá, miként biztosítjuk azt, hogy az osztott és a központosított adatfeldolgozás hatékonysága kevésbé térjen el egymástól. Ez lesz a legjobb garancia a demokrácia számára. Ami pedig a többieket illeti, akik nem mérnökök, az első számú kérdés előttünk: miként gátoljuk meg, hogy ne manipuláljanak azok, akik az adatok felett rendelkeznek.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
A liberális demokrácia ellenségeinek van egy módszerük. Meghekkelik az érzelmeinket. Nem az íméljeinket vagy bankszámláinkat – félelmünk, gyűlölködésünk és hiúságunk érzését hekkelik meg, majd ezen érzelmeket használják, hogy a demokráciát belülről bomlasszák és semmisítsék meg. Igazából ezt a módszert a Szilícium-völgyben termékeladásra fejlesztették ki. De most a demokrácia ellenségei használják pont ugyanezt, hogy félelmet, gyűlölködést, hiúságot adjanak el nekünk. Az érzelmeket nem tudják a semmiből megteremteni. Ismerniük kell meglévő gyengeségeinket, hogy azokat ellenünk felhasználhassák. Ezáltal mindannyiunk felelőssége, hogy megismerjünk gyengeségeinket, és elérjük, hogy ne válhassanak fegyverré a demokrácia ellenségeinek kezében.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Saját gyengeségeink megismerése szintúgy segít a fasiszta tükör csapdájának elkerülésében. Ahogy már mondtam, a fasizmus kihasználja hiúságunkat. Sokkal szebbnek láttatja önmagunk, mint amilyenek vagyunk valójában. Ebben rejlik vonzereje. De ha tényleg ismerik önmagukat, nem engednek az efféle hízelgésnek. Ha valaki olyan tükröt tart szemük elé, ami elrejti rút vonásaik, és magukat sokkal szebbnek, sokkal fontosabbnak láttatja, mint amilyenek valójában, törjék össze azt a tükröt.
Thank you.
Köszönöm.
(Applause)
(Taps)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Chris Anderson: Yuval, köszönjük. Jóságos ég. Annyira jó újra látni. Akkor, ha minden igaz, két nagy veszély miatt intesz éberségre. Az egyik a fasizmus rabul ejtő változatainak lehetséges újjáéledése, vagy a fasizmushoz közeli diktatúráké, amelyek nem feltétlen fasiszták, de az összes adat ellenőrzésük alatt áll. Csak kíváncsiság, van-e harmadik út, amit néhányan már itt megemlítettek, hogy nem kormányok, hanem nagy cégek rendelkeznek minden adatunk felett. Hogy nevezzük el ezt, és mennyire kell rettegnünk miatta?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Yuval Noah Harari: Végeredményben nincs olyan nagy különbség a cégek és a kormányok között, hiszen, ismétlem, a kérdés: ki rendelkezik az adatok felett? Igazából az kormányoz. Hívhatjuk cégnek vagy kormánynak – ha cég, és igenis az áll az adatok felett, akkor az kormányoz. Tehát a különbség inkább felszíni.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
CA: De némiképp, legalábbis cégeknél, bizonyos piaci mechanizmusok elképzelhetővé teszik megdöntésük. Mármint, ha a vevő úgy látja, hogy a cég nem az érdeke szerint működik, akkor másik piac ajtaján kopogtat. Könnyebb ezt elképzelni, mint azt, hogy a nép fellázad, és megdönti a kormányt, mely mindenek felett áll.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
YNH: Még nem tartunk ott, de ismétlem: ha egy cég jobban ismer, mint mi saját magunkat, vagy legalábbis manipulálni tudja legmélyebb vágyaink, érzelmeink, s még csak észre sem vesszük, azt fogjuk hinni, ez az igazi énünk. Tehát elméletileg fellázadhatunk cégek ellen, ugyanúgy, ahogy elméletileg diktatúrák ellen is. De gyakorlatban ez hihetetlenül nehéz.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
CA: A <i>Homo deusban</i> azt állítod, hogy ez lesz az a század, amiben az ember istenszerűvé válik a mesterséges intelligencia fejlődése vagy a géntechnológia által. Hatott-e a politikai rendszerváltás, a rendszer összeomlásának efféle távlata az eshetőségükről vallott nézetedre?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
YNH: Szerintem csak valószínűbbé teszi, és valószínűbb, hogy közelebb is hozza, mert válságos időszakban az emberek jobban kockáztatnak, mint ahogy azt általában szokták. Az emberek hajlandóak mindenféle nagy kockázatú, nagy profitú technológiát kipróbálni. Az ilyen válságoknak ugyanaz lehet a funkciójuk, mint a 20. század két világháborújának. A két világháború nagyban felgyorsította új, veszélyes technológiák fejlődését. Ugyanez megtörténhet a 21. században is. Mármint, kissé őrültnek kell lenni, hogy nagyon gyorsan felfuttassuk pl. a géntechnológiát. De ma több és több őrült van a világ különböző országainak az élén, így az esélyek nőnek, nem csökkennek.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
CA: Szóval, összerakva mindezt, Yuval, van az egyedi elképzelésed. Tekerjük előre az időt 30 évvel. Mit gondolsz: az emberiség valahogy átvészeli, visszanéz, majd így szól: "Hűha, közel volt, de megcsináltuk!" Vagy mégsem?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
YNH: Eddig mindig sikerült leküzdeni a válságokat. Ha pedig a liberális demokráciát nézzük, azt hisszük, rosszul állunk, de gondoljunk vissza 1938-ra vagy 1968-ra. Igazából ez semmi, csak egy apró válság. De nem tudhatjuk, hiszen történészként tudom: sohase becsüljük le az emberi ostobaságot.
(Laughter) (Applause)
(Nevetés) (Taps)
It is one of the most powerful forces that shape history.
Ez a legnagyobb történelemformáló erő.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
CA: Yuval, elképesztő öröm, hogy itt voltál velünk. Köszönjük a virtuális látogatást. Szép tel-avivi estét neked. Yuval Harari!
YNH: Thank you very much.
YNH: Nagyon szépen köszönöm.
(Applause)
(Taps)