Ten years ago, I wrote a book which I entitled "Our Final Century?" Question mark. My publishers cut out the question mark. (Laughter) The American publishers changed our title to "Our Final Hour." Americans like instant gratification and the reverse. (Laughter)
För tio år sen skrev jag en bok som jag döpte till "Our Final Century?", frågetecken. Min förläggare tog bort frågetecknet. (Skratt) Den amerikanske förläggaren ändrade titeln till "Our Final Hour." Amerikaner gillar både snabb behovstillfredsställelse och dess motsats. (Skratt)
And my theme was this: Our Earth has existed for 45 million centuries, but this one is special — it's the first where one species, ours, has the planet's future in its hands. Over nearly all of Earth's history, threats have come from nature — disease, earthquakes, asteroids and so forth — but from now on, the worst dangers come from us. And it's now not just the nuclear threat; in our interconnected world, network breakdowns can cascade globally; air travel can spread pandemics worldwide within days; and social media can spread panic and rumor literally at the speed of light. We fret too much about minor hazards — improbable air crashes, carcinogens in food, low radiation doses, and so forth — but we and our political masters are in denial about catastrophic scenarios. The worst have thankfully not yet happened. Indeed, they probably won't. But if an event is potentially devastating, it's worth paying a substantial premium to safeguard against it, even if it's unlikely, just as we take out fire insurance on our house.
Och mitt tema var följande: Vår jord har existerat i 45 miljoner århundraden, men det här är speciellt: det är det första där en art, vår, har planetens öde i sina händer. Under nästan hela jordens historia har hoten kommit från naturen - sjukdom, jordbävningar, asteroider och så vidare - men från och med nu kommer de värsta farorna från oss själva. Och det handlar inte bara om kärnvapenhot; i vår sammankopplade värld kan nätverk som bryter samman ge globala effekter, flygresor kan sprida pandemier över hela världen på ett par dagar, och sociala medier kan sprida panik och rykten, bokstavligen med ljusets hastighet. Vi retar upp oss för mycket på mindre problem - osannolika flygolyckor, cancerframkallande ämnen i mat, låga stråldoser, och så vidare - men vi och våra politiska ledare lever i förnekelse inför katastrofscenarier. De värsta har som tur är inte hänt än. Det kommer de förmodligen inte att göra. Men om en händelse skulle kunna innebära katastrof är det värt att betala en rejäl premie för att skydda sig mot den, även om den är osannolik, på samma sätt som vi har en hemförsäkring.
And as science offers greater power and promise, the downside gets scarier too. We get ever more vulnerable. Within a few decades, millions will have the capability to misuse rapidly advancing biotech, just as they misuse cybertech today. Freeman Dyson, in a TED Talk, foresaw that children will design and create new organisms just as routinely as his generation played with chemistry sets. Well, this may be on the science fiction fringe, but were even part of his scenario to come about, our ecology and even our species would surely not survive long unscathed. For instance, there are some eco-extremists who think that it would be better for the planet, for Gaia, if there were far fewer humans. What happens when such people have mastered synthetic biology techniques that will be widespread by 2050? And by then, other science fiction nightmares may transition to reality: dumb robots going rogue, or a network that develops a mind of its own threatens us all.
Och när vetenskapens makt och potential ökar, gör det att den mörka baksidan också blir hemskare. Vi blir ännu mer sårbara. Inom ett par årtionden kommer miljontals att ha möjligheten att missbruka den snabbväxande biotekniken på samma sätt som datateknik missbrukas idag. Freeman Dyson förutsåg i ett TED-talk att barn kommer att designa och skapa nya organismer lika rutinmässigt som hans generation lekte med kemilådor. Det här kanske ligger på gränsen till science fiction, men om även en liten del av det här scenariot blir sanning kommer vår ekologi och till och med vår art inte att klara sig länge oskadda ifrån det. Det finns till exempel några eko-extremister som tror att det vore bättre för vår planet, för Gaia, om det fanns många färre människor. Vad händer när sådana människor har lärt sig bemästra syntetiska biologitekniker som kommer att vara allmänt kända 2050? Och vid det laget kan andra mardrömmar från science fiction ha blivit verklighet: dumma robotar som blivit onda, eller ett nätverk som skapat sitt eget medvetande och hotar oss alla.
Well, can we guard against such risks by regulation? We must surely try, but these enterprises are so competitive, so globalized, and so driven by commercial pressure, that anything that can be done will be done somewhere, whatever the regulations say. It's like the drug laws — we try to regulate, but can't. And the global village will have its village idiots, and they'll have a global range.
Kan vi skydda oss mot sådana risker genom lagstiftning? Vi måste givetvis försöka, men de här företagen är så tävlingsinriktade och globaliserade och så marknadsdrivna att allt som går att göra kommer att göras någonstans, vilka lagar som än gäller. Det är som med lagarna mot droger - vi försöker reglera dem, men misslyckas. Och den globala byn kommer att ha sina byfånar, och de kommer att ha global räckvidd.
So as I said in my book, we'll have a bumpy ride through this century. There may be setbacks to our society — indeed, a 50 percent chance of a severe setback. But are there conceivable events that could be even worse, events that could snuff out all life? When a new particle accelerator came online, some people anxiously asked, could it destroy the Earth or, even worse, rip apart the fabric of space? Well luckily, reassurance could be offered. I and others pointed out that nature has done the same experiments zillions of times already, via cosmic ray collisions. But scientists should surely be precautionary about experiments that generate conditions without precedent in the natural world. Biologists should avoid release of potentially devastating genetically modified pathogens.
Som jag skrev i min bok kommer vi att få en skakig resa genom det här århundradet. Vårt samhälle kommer kanske att råka ut för bakslag - risken är faktiskt 50 procent att det kommer ett svårt bakslag. Men finns det tänkbara händelser som kan vara ännu värre, som kan släcka ut allt liv? När en ny partikelaccelerator dök upp frågade sig några människor oroligt om den kunde förstöra jorden, eller ännu värre, riva sönder rymdens struktur? Som tur är kunde vi ge dem ett lugnande besked. Jag och andra pekade på att naturen har gjort samma typ av experiment otaliga gånger förut, via kosmiska strålkrockar. Men vetenskapsmän ska vara försiktiga med att skapa tillstånd som aldrig förut har funnits i universum. Biologer ska undvika att släppa ut genetiskt modifierade gifter som kan orsaka massförstörelse.
And by the way, our special aversion to the risk of truly existential disasters depends on a philosophical and ethical question, and it's this: Consider two scenarios. Scenario A wipes out 90 percent of humanity. Scenario B wipes out 100 percent. How much worse is B than A? Some would say 10 percent worse. The body count is 10 percent higher. But I claim that B is incomparably worse. As an astronomer, I can't believe that humans are the end of the story. It is five billion years before the sun flares up, and the universe may go on forever, so post-human evolution, here on Earth and far beyond, could be as prolonged as the Darwinian process that's led to us, and even more wonderful. And indeed, future evolution will happen much faster, on a technological timescale, not a natural selection timescale.
Och vår speciella motvilja mot katastrofer som hotar vår existens handlar förresten om en filosofisk och etisk fråga, nämligen den här: Tänk dig två scenarier. Scenario A slår ut 90 procent av mänskligheten. Scenario B slår ut 100 procent. Hur mycket värre är B än A? Några skulle säga 10 procent värre. Antalet döda är 10 procent högre. Men jag menar att B är ojämförligt värre. Som astronom kan jag inte tro att människorna är slutet på historien. Det är fem miljarder år kvar innan solen brinner ut, och universum kanske fortsätter för evigt, så den efter-mänskliga evolutionen här på jorden och långt bortom den, kan bli lika utdragen som den darwinistiska process som ledde fram till oss, och ännu mer underbar. Och framtidens evolution kommer att ske mycket snabbare, efter en teknologisk tidsskala istället för
So we surely, in view of those immense stakes, shouldn't accept even a one in a billion risk that human extinction would foreclose this immense potential. Some scenarios that have been envisaged may indeed be science fiction, but others may be disquietingly real. It's an important maxim that the unfamiliar is not the same as the improbable, and in fact, that's why we at Cambridge University are setting up a center to study how to mitigate these existential risks. It seems it's worthwhile just for a few people to think about these potential disasters. And we need all the help we can get from others, because we are stewards of a precious pale blue dot in a vast cosmos, a planet with 50 million centuries ahead of it. And so let's not jeopardize that future.
det naturliga urvalets tidsskala. Så vi borde verkligen inte, om vi tar med dessa enorma insatser i beräkningen, acceptera ens en risk på en på miljarden att mänskligheten skulle utrotas och dess enorma potential tillintetgöras. Några av scenarierna som lagts fram kan mycket väl handla om science fiction, men andra kan visa sig vara oroväckande sanna. Det är ett viktigt motto att det okända inte är samma sak som det osannolika, och det är därför vi på Cambridge University bygger upp ett center för att studera hur vi ska kunna dämpa de här existentiella riskerna. Det verkar vara värt det att en liten grupp människor funderar över de här potentiella katastroferna. Och vi behöver all hjälp vi kan få från andra, för vi är förvaltare av en värdefull ljusblå prick i ett gigantiskt kosmos, en planet som har 50 miljoner århundraden framför sig. Så låt oss inte riskera den framtiden.
And I'd like to finish with a quote from a great scientist called Peter Medawar. I quote, "The bells that toll for mankind are like the bells of Alpine cattle. They are attached to our own necks, and it must be our fault if they do not make a tuneful and melodious sound."
Jag skulle vilja avsluta med ett citat från en stor vetenskapsman som heter Peter Medawar. Jag citerar, "Klockorna som ringer för mänskligheten är som de klockor som kor i Alperna har. De hänger runt våra egna halsar, och det måste vara vårt eget fel om de inte ger ifrån sig ett välklingande och melodiskt ljud."
Thank you very much.
Tack så mycket.
(Applause)
(Applåder)