Ten years ago, I wrote a book which I entitled "Our Final Century?" Question mark. My publishers cut out the question mark. (Laughter) The American publishers changed our title to "Our Final Hour." Americans like instant gratification and the reverse. (Laughter)
Prije deset godina napisao sam knjigu koju sam nazvao "Naše posljednje stoljeće?" Upitnik. Moji izdavači izbacili su upitnik. (Smijeh) Američki izdavači promijenili su naslov u "Naš posljednji sat." Amerikanci žele trenutno zadovoljenje i obrnuto. (Smijeh)
And my theme was this: Our Earth has existed for 45 million centuries, but this one is special — it's the first where one species, ours, has the planet's future in its hands. Over nearly all of Earth's history, threats have come from nature — disease, earthquakes, asteroids and so forth — but from now on, the worst dangers come from us. And it's now not just the nuclear threat; in our interconnected world, network breakdowns can cascade globally; air travel can spread pandemics worldwide within days; and social media can spread panic and rumor literally at the speed of light. We fret too much about minor hazards — improbable air crashes, carcinogens in food, low radiation doses, and so forth — but we and our political masters are in denial about catastrophic scenarios. The worst have thankfully not yet happened. Indeed, they probably won't. But if an event is potentially devastating, it's worth paying a substantial premium to safeguard against it, even if it's unlikely, just as we take out fire insurance on our house.
Moja tema je bila: Naša Zemlja postoji 45 milijuna stoljeća, ali ovo stoljeće je posebno. Ono je prvo u kojemu jedna vrsta, naša, drži budućnost planeta u svojim rukama. Kroz čitavu Zemljinu povijest, prijetnje su dolazile iz prirode. Bolesti, potresi, asteroidi i tako dalje... Ali odsad nadalje, najveće opasnosti dolaze od nas. I više to nije samo nuklearna prijetnja. U našem međupovezanom svijetu mrežni se kvarovi mogu širiti globalno: zračni promet može proširiti pandemije cijelim svijetom u nekoliko dana, a društvenim se mrežama panika i glasine mogu proširiti doslovno brzinom svjetlosti. Previše se brinemo zbog malih opasnosti - malo vjerojatnih zrakoplovnih udesa, kancerogenih tvari u hrani, niskih doza radijacije, i tako dalje... Ali, mi i naši politički gospodari u zabludi smo u vezi s katastrofičnim scenarijima. Najgori se, srećom, još nisu dogodili. I vjerojatno se neće ni dogoditi. Ali, ako je događaj potencijalno razoran, vrijedi platiti značajnu premiju kako bismo se osigurali od njega, čak i ako nije izgledan, baš kako se osiguravamo protiv požara u kući.
And as science offers greater power and promise, the downside gets scarier too. We get ever more vulnerable. Within a few decades, millions will have the capability to misuse rapidly advancing biotech, just as they misuse cybertech today. Freeman Dyson, in a TED Talk, foresaw that children will design and create new organisms just as routinely as his generation played with chemistry sets. Well, this may be on the science fiction fringe, but were even part of his scenario to come about, our ecology and even our species would surely not survive long unscathed. For instance, there are some eco-extremists who think that it would be better for the planet, for Gaia, if there were far fewer humans. What happens when such people have mastered synthetic biology techniques that will be widespread by 2050? And by then, other science fiction nightmares may transition to reality: dumb robots going rogue, or a network that develops a mind of its own threatens us all.
Kako znanost nudi sve više moći i obećanja, i naličje postaje sve strašnije. Postajemo sve ranjiviji. Unutar nekoliko desetljeća, milijuni će imati mogućnost zlorabiti brzo napredujuću biotehnologiju, kao što danas zlorabe cyber-tehnologiju. Freeman Dyson, u svom govoru na TED-u, predvidio je da će djeca rutinski dizajnirati i kreirati nove organizme kao što se njegova generacija igrala s priborom za kemiju. Ovo možda graniči sa znanstvenom fantastikom, ali obistini li se i djelić njegova scenarija, naš odnos prema okolišu i sama naša vrsta zasigurno ne bi dugo preživjeli neokrznuti. Na primjer, postoje eko-ekstremisti koji misle da bi za planet, za Geu, bilo bolje, kad bi bilo mnogo manje ljudi. Što će se dogoditi kad takvi ljudi ovladaju tehnikama sintetičke biologije koja će se proširiti do 2050.? A dotad, druge znanstveno- fantastične noćne more mogle bi postati stvarnost: pobuna glupih robota, ili mreža koja se otme našoj kontroli, svima nam prijete.
Well, can we guard against such risks by regulation? We must surely try, but these enterprises are so competitive, so globalized, and so driven by commercial pressure, that anything that can be done will be done somewhere, whatever the regulations say. It's like the drug laws — we try to regulate, but can't. And the global village will have its village idiots, and they'll have a global range.
Možemo li se propisima sačuvati od takvih rizika? Svakako trebamo pokušati, ali ti su pothvati silno natjecateljski, silno globalizirani, i toliko pokretani komercijalnim pritiskom, da će što god bude moguće učiniti negdje i biti učinjeno, neovisno o ikakvim propisima. Poput zakona o drogama - pokušavamo urediti, ali ne uspijevamo. Globalno selo imat će svoje seoske idiote, i oni će imati globalni utjecaj.
So as I said in my book, we'll have a bumpy ride through this century. There may be setbacks to our society — indeed, a 50 percent chance of a severe setback. But are there conceivable events that could be even worse, events that could snuff out all life? When a new particle accelerator came online, some people anxiously asked, could it destroy the Earth or, even worse, rip apart the fabric of space? Well luckily, reassurance could be offered. I and others pointed out that nature has done the same experiments zillions of times already, via cosmic ray collisions. But scientists should surely be precautionary about experiments that generate conditions without precedent in the natural world. Biologists should avoid release of potentially devastating genetically modified pathogens.
Kao što sam i rekao u svojoj knjizi, bit će to grbava vožnja kroz ovo stoljeće. Naše će društvo nailaziti na zapreke - doista, 50%-tna je vjerojatnost ozbiljnog pogoršanja. No, možemo li zamisliti događaje koji bi mogli biti i gori, koji bi mogli izbrisati sav život? Kad je prvi put upotrijebljen novi akcelerator čestica, neki su se ljudi zabrinuto pitali može li on uništiti Zemlju ili, još gore, pokidati samo tkivo svemira? Srećom, mogu vas utješiti. Ja i drugi istaknuli smo da je priroda iste eksperimente izvela bezbroj puta dosad - sudaranjem kozmičkih zraka. Ali, znanstvenici bi trebali biti oprezni s eksperimentima kojima stvaraju uvjete kakvi nisu u prirodi viđeni. Biolozi bi trebali izbjegavati ispuštanje potencijalno razornih genetski modificiranih patogena.
And by the way, our special aversion to the risk of truly existential disasters depends on a philosophical and ethical question, and it's this: Consider two scenarios. Scenario A wipes out 90 percent of humanity. Scenario B wipes out 100 percent. How much worse is B than A? Some would say 10 percent worse. The body count is 10 percent higher. But I claim that B is incomparably worse. As an astronomer, I can't believe that humans are the end of the story. It is five billion years before the sun flares up, and the universe may go on forever, so post-human evolution, here on Earth and far beyond, could be as prolonged as the Darwinian process that's led to us, and even more wonderful. And indeed, future evolution will happen much faster, on a technological timescale, not a natural selection timescale.
Usput, naša osobita odbojnost prema rizičnosti stvarnih egzistencijalnih katastrofa ovisi o filozofskom i etičkom pitanju, a ono je sljedeće... Sagledajte dva scenarija. Scenarij A uništava 90 posto čovječanstva. Scenarij B uništava 100 posto. Koliko je B gore od A? Neki bi rekli da je 10 posto gori. Broj mrtvih je 10 posto viši. Ja tvrdim da je B neusporedivo gori. Kao astronom, ne mogu vjerovati da su ljudi kraj priče. Imamo pet milijardi godina prije nego sunce izgori, i svemir će možda nastaviti zauvijek postojati. Evolucija nakon ljudi, ovdje na Zemlji i daleko izvan nje, mogla bi biti duga koliko i darvinovski proces koji je doveo do nas, a možda i čudesniji. Buduće će se evolucije zaista zbivati puno brže, gledajući tehnološku vremensku crtu, ne onu prirodne selekcije.
So we surely, in view of those immense stakes, shouldn't accept even a one in a billion risk that human extinction would foreclose this immense potential. Some scenarios that have been envisaged may indeed be science fiction, but others may be disquietingly real. It's an important maxim that the unfamiliar is not the same as the improbable, and in fact, that's why we at Cambridge University are setting up a center to study how to mitigate these existential risks. It seems it's worthwhile just for a few people to think about these potential disasters. And we need all the help we can get from others, because we are stewards of a precious pale blue dot in a vast cosmos, a planet with 50 million centuries ahead of it. And so let's not jeopardize that future.
Tako da zasigurno, gledajući te ogromne uloge, ne bismo trebali prihvatiti ni rizik od jedan naprema milijardu da će ljudsko izumiranje spriječiti ovaj ogroman potencijal. Neka predviđanja doista mogu biti znanstvena fantastika, ali druga mogu biti uznemirujuće realna. Važna je maksima da nepoznato nije isto što i nevjerojatno. Upravo zato mi na Sveučilištu Cambridge ustanovljujemo centar u kojemu ćemo proučavati kako ublažiti ove egzistencijalne rizike. Čini se da samo nekolicina ljudi smatra vrijednim razmišljati o ovim potencijalnim katastrofama, i trebamo svu pomoć koju možemo dobiti od drugih. Mi upravljamo ovom dragocjenom blijedoplavom točkom u nepreglednom kozmosu, planetom s 50 milijuna stoljeća pred sobom. Zato nemojmo ugroziti tu budućnost.
And I'd like to finish with a quote from a great scientist called Peter Medawar. I quote, "The bells that toll for mankind are like the bells of Alpine cattle. They are attached to our own necks, and it must be our fault if they do not make a tuneful and melodious sound."
Završio bih s citatom velikog znanstvenika, Petera Medawara: "Zvona koja zvone za čovječanstvo poput su zvona alpskih goveda. Pričvršćena su za naše vratove, i naša je krivnja ako ne stvore pjevan i melodičan zvuk."
Thank you very much.
Hvala vam puno.
(Applause)
(Pljesak)