Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today?
Pozdrav svima. Ovo je pomalo smiješno jer ja jesam pisao da će ljudi postati digitalni, ali nisam mislio da će se to dogoditi tako brzo i da će se dogoditi meni. No, evo tu sam, kao digitalni avatar, a vi ste ovdje, pa počnimo. Počnimo pitanjem. Koliko fašista ima danas u publici?
(Laughter)
(Smijeh)
Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism. So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism.
Pa, to je malo teško reći jer smo zaboravili što je zapravo fašizam. Ljudi danas koriste izraz "fašist" kao neku vrstu univerzalne uvrede. Ili fašizam brkaju s nacionalizmom. Pa, hajdemo u nekoliko minuta razjasniti što je fašizam zapravo i kako se razlikuje od nacionalizma.
The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise. But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor.
Blaži oblici nacionalizma su među najbenevolentnijim oblicima ljudskih kreacija. Nacije su zajednice milijuna stranaca koji se zapravo ne poznaju međusobno. Na primjer, ja ne poznajem osam milijuna ljudi koji dijele moje izraelsko državljanstvo. No, zahvaljujući nacionalizmu mi svi možemo brinuti jedni o drugima i učinkovito surađivati. To je jako dobro. Neki ljudi, poput Johna Lennona, zamišljaju da će bez nacionalizma svijet biti miroljubivi raj. No, mnogo je izglednije da bismo bez nacionalizma živjeli u plemenskom kaosu. Ako danas pogledate najnaprednije i namiroljubivije zemlje u svijetu, zemlje poput Švedske i Švicarske i Japana, vidjet ćete da one imaju vrlo jak nacionalni osjećaj. Nasuprot tome, zemlje kojima nedostaje jak nacionalni osjećaj, poput Konga i Somalije i Afganistana, imaju tendenciju nasilju i siromaštvu.
So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme, and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy? Life is complicated. Deal with it.
Dakle, što je fašizam i kako se razlikuje od nacionalizma? Pa, nacionalizam mi govori da je moja nacija jedinstvena i da ja imam posebne obaveze prema svojoj naciji. Fašizam, nasuprot tome, govori mi da je moja nacija dominantna i da ja imam isključive obaveze prema njoj. Ja ne trebam mariti o nikomu i ničemu osim moje nacije. Obično, naravno, ljudi imaju mnogo identiteta i lojalnosti prema različitim grupama. Na primjer, ja mogu biti dobar domoljub, lojalan svojoj zemlji, i u isto vrijeme biti lojalan svojoj obitelji, svom susjedstvu, svojoj profesiji, čovječanstvu općenito, istini i ljepoti. Naravno, kada imam različite identitete i lojalnosti, to ponekad stvara konflikte i komplikacije. No, tko vam je ikada rekao da je život jednostavan? Život je kompliciran. Pomirite se s tim.
Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty. For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation. The truth doesn't matter at all.
Fašizam je ono što se događa kada ljudi pokušavaju ignorirati komplikacije i previše si olakšavati život. Fašizam negira sve identitete osim nacionalnog identiteta i insistira da imam obaveze samo prema svojoj naciji. Ako moja nacija zahtijeva da žrtvujem svoju obitelj, onda ću žrtvovati svoju obitelj. Ako nacija zahtijeva da ubijem milijune ljudi, onda ću ubiti milijune ljudi. I ako moja nacija zahtijeva da izdam istinu i ljepotu, onda moram izdati istinu i ljepotu. Na primjer, kako fašist procjenjuje umjetnost? Kako fašist odlučuje da li je neki film dobar ili loš? Pa, to je jako, jako, jako jednostavno. Postoji zapravo samo jedno mjerilo: ako film služi interesima nacije, to je dobar film; ako film ne služi interesima nacije, to je loš film. To je to. Slično, kako fašist odlučuje što učiti djecu u školi? Ponovo, to je vrlo jednostavno. Postoji samo jedno mjerilo: djecu učite onome što služi interesima nacije. Istina uopće nije važna.
Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand -- why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism.
Užasi Drugog svjetskog rata i Holokausta podsjećaju nas na užasne posljedice takvog načina razmišljanja. No, obično kada govorimo o zlu fašizma, mi to radimo na neučinkovit način jer smo skloni fašizam prikazivati kao odvratnog monstruma, bez da stvarno objasnimo što je to tako zavodljivo u njemu. To je pomalo kao u holivudskim filmovima koji prikazuju zločeste dečke -- Voldemorta ili Saurona il Dartha Vadera -- kao ružne i zle i okrutne. Oni su okrutni čak i prema vlastitim pristalicama. Kada gledam te filmove nikada mi nije jasno -- zašto bi itko došao u napast da slijedi odvratnu nakazu poput Voldemorta? problem sa zlom je da u stvarnom životu zlo nije nužno ružno naizgled. Ono može izgledati vrlo lijepo. To je nešto što kršćanstvo jako dobro zna i zbog čega se u kršćanskoj umjetnosti, za razliku od Hollywooda, Sotona obično prikazuje kao prekrasan 'komad'. To je razlog da je tako teško odoljeti njegovim iskušenjima i zašto je također teško odoljeti iskušenjima fašizma.
Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation. And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world. And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s.
Fašizam djeluje na ljude tako da se oni vide kao pripadnici najljepše i najvažnije stvari na svijetu -- nacije. I onda ljudi misle, "Pa dobro, učili su nas da je fašizam ružan. Ali kad pogledam u ogledalo ja vidim nešto prekrasno, stoga ja ne mogu biti fašist, zar ne?" Krivo. To je problem sa fašizmom. Kada pogledate u fašističko ogledalo, vi sebe vidite daleko ljepšim no što stvarno jeste. Tridesetih godina, kada su Nijemci gledali u fašističko ogledalo, vidjeli su Njemačku kao najljepšu stvar na svijetu. Ako danas Rusi pogledaju u fašističko ogledalo, vidjet će Rusiju kao najljepšu stvar na svijetu. A ako Izraelci pogledaju u fašističko ogledalo, vidjet će Izrael kao najljepšu stvar na svijetu. To ne znači da smo danas suočeni s ponavljanjem 1930.-tih.
Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch. And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite.
Fašizam i diktature mogli bi se vratiti, ali vratit će se u novom obliku, u obliku koji je puno podobniji za nove tehnološke stvarnosti 21. stoljeća. U drevnim vremenima zemlja je bila najvažnija prednost na svijetu. Politika je, stoga, bila borba za kontrolu zemlje. A diktatura je značila da je sva zemlja u vlasništvu jednog vladara ili male oligarhije. A u moderno doba strojevi su postali važniji od zemlje. Politika je postala borba za kontrolu nad strojevima. A diktatura znači da je previše strojeva postalo koncentrirano u rukama vlade ili malobrojne elite. Danas su podaci zamijenili i zemlju i strojeve kao najvažnija prednost ili imovina. Politika postaje borba za kontrolu nad tokovima podataka. A diktatura sada znači da je previše podataka koncentrirano u rukama vlade ili malobrojne elite.
The greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient than democracies.
Najveća opasnost s kojom se danas suočava liberalna demokracija jest da će revolucija informacijske tehnologije učiniti diktature učinkovitijima od demokracija.
In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place.
U 20. stoljeću demokracija i kapitalizam porazili su fašizam i komunizam zato jer je demokracija bila bolja u obradi podataka i donošenju odluka. Uz danu tehnologiju 20. stoljeća bilo je jednostavno neefikasno pokušavati koncentrirati previše podataka i previše moći u jednom mjestu.
But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning, it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage.
Ali to nije zakon prirode da je centralizirana obrada podataka uvijek manje učinkovita od distribuirane obrade podataka. Napretkom umjetne inteligencije i strojnog učenja možda postane izvodivo obrađivati ogromne količine informacija vrlo učinkovito na jednom mjestu, sve odluke donositi na jednom mjestu, i tada će centralizirana obrada podataka biti učinkovitija od distribuirane obrade podataka. I onda će glavni nedostatak autoritarnih režima u 20. stoljeću -- njihov pokušaj da koncentriraju sve informacije na jednom mjestu -- postati njihova najveća prednost.
Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums, you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show.
Druga tehnološka opasnost koja prijeti budućnosti demokracije jest udruživanje informacijske tehnologije sa biotehnologijom, što bi moglo rezultirati u stvaranju algoritama koje me poznaju bolje od mene samog. A jednom kada imate takve algoritme, vanjski sustav, poput vlade, ne samo da može predvidjeti moje odluke, već može i manipulirati mojim osjećajima, mojim emocijama. Diktator možda neće biti u stanju osigurati dobru zdravstvenu skrb, ali će biti u stanju postići da ga volim i da mrzim opoziciju. Demokraciji će biti teško preživjeti takav razvoj jer, na koncu, demokracija se ne bazira na ljudskoj racionalnosti; ona se bazira na ljudskim osjećajima. Za vrijeme izbora ili referenduma ne pitaju vas, "Što mislite?" Vas zapravo pitaju, "Kako se osjećate?" A ako netko može učinkovito manipulirati vašim osjećajima, demokracija će postati emocionalna lutkarska predstava.
So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data.
Što, dakle, možemo mi učiniti da spriječimo povratak fašizma i pojavu novih diktatura? Pitanje broj jedan s kojim se suočavamo je: Tko kontrolira podatke? Ako ste inženjer, onda nađite načine da spriječite da previše podataka bude koncentrirano u premalo ruku. I nađite načine da osigurate da je distribuirana obrada podataka u najmanju ruku jednako učinkovita kao centralizirana obrada podataka. To će biti najbolja zaštita demokracije. Što se tiče nas ostalih, koji nismo inženjeri, prvo pitanje s kojim se mi suočavamo jeste kako da ne dozvolimo da budemo manipulirani od onih koji kontroliraju podatke.
The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy.
Neprijatelji liberalnih demokracija, oni imaju metodu. Oni hakiraju naše osjećaje. Ne naše emailove, ne naše bankovne račune -- oni hakiraju naše osjećaje straha i mržnje i sujete i onda te osjećaje koriste za polarizaciju i uništavanje demokracije iznutra. To je zapravo metoda koju je prva uvela Silikonska dolina kako bi nam prodala proizvode. Ali sada, neprijatelji demokracije koriste tu istu metodu da nam prodaju strah i mržnju i sujetu. Oni te osjećaje ne mogu stvoriti iz ničega. Zato nastoje upoznati naše vlastite prvobitne slabosti i onda ih iskoristiti protiv nas. Zbog toga je odgovornost svih nas da spoznamo svoje slabosti i potrudimo se da one ne postanu oružje u rukama neprijatelja demokracije.
Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror. As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror.
Spoznavanje vlastitih slabosti pomoći će nam također da izbjegnemo zamku fašističkog ogledala. Kao što smo ranije objasnili, fažizam eksploatira našu sujetu. On čini da sebe vidimo daleko ljepšima no što stvarno jesmo. To je zavođenje. No, ako stvarno poznajete sebe, tada nećete pasti na ovu vrstu laskanja. Ako vam netko pred oči postavi ogledalo koje skriva sve vaše ružne komadiće i čini da sebe vidite daleko ljepšim i daleko važnijim no što ustvari jeste, jednostavno razbijte to ogledalo.
Thank you.
Hvala.
(Applause)
(Pljesak)
Chris Anderson: Yuval, thank you. Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that?
Chris Anderson: Yuval, hvala vam. Moj bože! Tako je lijepo vidjeti vas ponovo. Dakle, ako sam vas dobro razumio, vi nas ovdje upozoravate na dvije velike opasnosti. Jedna je moguće ponovno oživljavanje zavodljivog oblika fašizma, no, povezano s tim, diktatura koje ne moraju biti baš fašističke, već kontroliraju sve podatke. Pitam se postoji li treća zabrinutost koju se neki ljudi ovdje već izrazili, slučaj kada, ne vlade, nego velike korporacije kontroliraju sve podatke. Kako vi to nazivate i koliko moramo biti zabrinuti u vezi s tim?
Yuval Noah Harari: Well, in the end, there isn't such a big difference between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real.
Yuval Noah Harari: Pa, na koncu, nema tako velike razlike između korporacija i vlada jer, kao što sam rekao, pitanje je: Tko kontrolira podatke? To je prava vlada. Nazivate li to korporacijom ili vladom -- ako je to korporacija i ona stvarno kontrolira podatke, to je naša prava vlada. Dakle, razlika je više prividna nego stvarna.
CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market. It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything.
CA: Ali nekako, bar u slučaju korporacija, možete zamisliti tržišne mehanizme kojima se one mogu srušiti. Mislim, ako potrošači odluče da kompanija više ne radi u njihovom interesu, to otvara vrata jednom drugom tržištu. Naizgled je lakše zamisliti to nego, recimo, građane koji ustaju i ruše vladu koji ima kontrolu nad svime.
YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult.
YNH: Pa nismo još dotle stigli, ali, ponovo, ako vas korporacija stvarno poznaje bolje no što vi poznajete sebe -- u najmanju ruku ona može manipulirati vašim najdubljim emocijama i željama, a vi to čak nećete ni znati -- mislit ćete da je to vaša autentična ličnost. Zato u teoriji, da, u teoriji, možete se dignuti protiv korporacija, kao što se u teoriji možete dignuti protiv diktature. Ali u praksi je to izuzetno teško.
CA: So in "Homo Deus," you argue that this would be the century when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility?
CA: U "Homo Deusu" vi tvrdite da će ovo biti stoljeće kada ljudi na neki način postaju bogovi, bilo putem razvoja umjetne inteligencije ili putem genetskog inženjeringa. Da li je ta izglednost promjene političkog sustava, kolapsa, utjecala na vaš stav o toj mogućnosti?
YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower.
YNH: Pa, ja mislim da je to čini čak još vjerojatnijom i veća je vjerojatnost da će se dogoditi brže, zato jer u vremenima krize ljudi su spremni poduzimati rizike koje inače ne bi poduzimali. I ljudi su spremni iskušati sve vrste visoko-rizičnih, visoko-dobitnih tehnologija. Dakle, takve vrste kriza možda mogu služiti istoj funkciji kao dva svjetska rata u 20.-tom stoljeću. Dva svjetska rata znatno su ubrzala razvoj novih i opasnih tehnologija. A ista stvar bi se mogla dogoditi u 21. stoljeću. Mislim, morate biti pomalo ludi da prebrzo jurite, recimo, s genetskim inženjeringom. Ali danas imate sve više i više ludih ljudi koji vode različite zemlje u svijetu, pa su šanse sve veće, a ne manje.
CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through, look back and say, "Wow, that was a close thing. We did it!" Or not?
CA: Pa, uzevši sve to zajedno, Yuval, vi imate tu jedinstvenu viziju. Pomaknimo sat 30 godina unaprijed. Što vi mislite -- hoće li se čovječanstvo nekako izvući, pogledati unazad i reći, "Vau, to je bilo blizu. Uspjeli smo!" Ili ne?
YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity.
YNH: Do sada smo uspjeli prevladati sve prethodne krize. A pogotovo ako pogledate liberalnu demokraciju i mislite da su stvari sada loše, samo se sjetite koliko su gore stvari izgledale 1938. ili 1968. godine. Dakle, ovo stvarno nije ništa, ovo je samo mala kriza. Ali nikad se ne zna, jer, kao povjesničar znam da nikada ne smijete podcijeniti ljudsku glupost.
(Laughter) (Applause)
(Smijeh) (Pljesak)
It is one of the most powerful forces that shape history.
Ona je jedna od najmoćnijih sila koje oblikuju povijest.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari!
CA: Yuval, bio je apsolutni užitak biti s vama. Hvala vam što ste poduzeli ovaj virtualni izlet. Želim vam ugodno veče tamo u Tel Avivu. Yuval Harari!
YNH: Thank you very much.
YNH: Mnogo vam hvala.
(Applause)
(Pljesak)