Ten years ago, I wrote a book which I entitled "Our Final Century?" Question mark. My publishers cut out the question mark. (Laughter) The American publishers changed our title to "Our Final Hour." Americans like instant gratification and the reverse. (Laughter)
Tien jaar geleden schreef ik een boek met de titel: 'Onze Laatste Eeuw?' Mijn uitgevers lieten het vraagteken weg. (Gelach) De Amerikaanse uitgevers maakten ervan: 'Ons Laatste Uur'. Amerikanen willen boter bij de vis. (Gelach)
And my theme was this: Our Earth has existed for 45 million centuries, but this one is special — it's the first where one species, ours, has the planet's future in its hands. Over nearly all of Earth's history, threats have come from nature — disease, earthquakes, asteroids and so forth — but from now on, the worst dangers come from us. And it's now not just the nuclear threat; in our interconnected world, network breakdowns can cascade globally; air travel can spread pandemics worldwide within days; and social media can spread panic and rumor literally at the speed of light. We fret too much about minor hazards — improbable air crashes, carcinogens in food, low radiation doses, and so forth — but we and our political masters are in denial about catastrophic scenarios. The worst have thankfully not yet happened. Indeed, they probably won't. But if an event is potentially devastating, it's worth paying a substantial premium to safeguard against it, even if it's unlikely, just as we take out fire insurance on our house.
Het ging hierover: onze Aarde bestaat al 45 miljoen eeuwen, maar deze eeuw is speciaal. Het is de eerste waar één soort, de onze, de toekomst van de planeet in handen heeft. Gedurende de hele geschiedenis van de Aarde kwamen de bedreigingen van de natuur - ziekte, aardbevingen, asteroïden enzovoort - Maar vanaf nu komen de ergste bedreigingen van onszelf. En niet alleen de kerndreiging. In onze verbonden wereld kunnen netwerken mondiaal uitvallen. Luchtverkeer kan pandemieën in dagen verspreiden. Sociale media kunnen paniek en geruchten letterlijk met de lichtsnelheid verspreiden. We bekommeren ons teveel om kleine gevaren: onwaarschijnlijke luchtvaartongevallen, carcinogenen in ons voedsel, lage stralingsdosissen, enzovoort. Maar wij en onze politieke meesters zijn blind voor catastrofale scenario's. De ergste hebben gelukkig nog niet plaatsgevonden. Waarschijnlijk zullen dat ze ook niet. Maar als een gebeurtenis verwoestend kan zijn, is het de moeite waard een serieuze prijs te betalen om je ertegen te verzekeren, - ook als het onwaarschijnlijk is - net zoals we betalen voor onze brandverzekering.
And as science offers greater power and promise, the downside gets scarier too. We get ever more vulnerable. Within a few decades, millions will have the capability to misuse rapidly advancing biotech, just as they misuse cybertech today. Freeman Dyson, in a TED Talk, foresaw that children will design and create new organisms just as routinely as his generation played with chemistry sets. Well, this may be on the science fiction fringe, but were even part of his scenario to come about, our ecology and even our species would surely not survive long unscathed. For instance, there are some eco-extremists who think that it would be better for the planet, for Gaia, if there were far fewer humans. What happens when such people have mastered synthetic biology techniques that will be widespread by 2050? And by then, other science fiction nightmares may transition to reality: dumb robots going rogue, or a network that develops a mind of its own threatens us all.
Terwijl de wetenschap steeds grotere macht en beloften inhoudt, worden de negatieve aspecten ook angstaanjagender. We worden steeds kwetsbaarder. Binnen enkele tientallen jaren zullen miljoenen de mogelijkheid hebben om de snel groeiende biotechnologie te misbruiken, net zoals ze vandaag cybertechnologie misbruiken. Freeman Dyson voorzag in een TED Talk dat kinderen nieuwe organismen zouden ontwerpen en maken net zoals zijn generatie met een chemiedoos speelde. Dit balanceert op de rand van sciencefiction, maar als dit scenario ook maar gedeeltelijk werkelijkheid zou worden, dan zou onze ecologie en zelfs onze soort het niet lang ongedeerd overleven. Zo heb je bijvoorbeeld eco-extremisten die denken dat het voor de planeet, voor Gaia, beter zou zijn als er veel minder mensen zouden zijn. Wat gaat er gebeuren als dergelijke mensen technieken van synthetische biologie - tegen 2050 gemeengoed - onder de knie gaan krijgen. Ook andere sciencefiction-nachtmerries kunnen werkelijkheid worden: domme robots die op hol slaan of een netwerk dat een eigen wil gaat ontwikkelen, kan ons allemaal gaan bedreigen.
Well, can we guard against such risks by regulation? We must surely try, but these enterprises are so competitive, so globalized, and so driven by commercial pressure, that anything that can be done will be done somewhere, whatever the regulations say. It's like the drug laws — we try to regulate, but can't. And the global village will have its village idiots, and they'll have a global range.
Kunnen we ons tegen dergelijke risico's beschermen door regelgeving? Proberen moeten we het zeker, maar deze ondernemingen zijn zo competitief, zo mondiaal, en zo gedreven door winstbejag, dat alles wat mogelijk is ergens zal worden gedaan, wat de regels ook zullen zeggen. Net zoals de drugswetten - we proberen te reguleren, maar het lukt niet. Het werelddorp zal zijn dorpsidioten hebben, met een mondiaal bereik.
So as I said in my book, we'll have a bumpy ride through this century. There may be setbacks to our society — indeed, a 50 percent chance of a severe setback. But are there conceivable events that could be even worse, events that could snuff out all life? When a new particle accelerator came online, some people anxiously asked, could it destroy the Earth or, even worse, rip apart the fabric of space? Well luckily, reassurance could be offered. I and others pointed out that nature has done the same experiments zillions of times already, via cosmic ray collisions. But scientists should surely be precautionary about experiments that generate conditions without precedent in the natural world. Biologists should avoid release of potentially devastating genetically modified pathogens.
Zoals ik zei in mijn boek hebben we deze eeuw een harde rit voor de boeg. Er kunnen zich tegenslagen voordoen voor onze maatschappij - inderdaad, een 50% kans op een zware tegenslag. Maar zijn er gebeurtenissen denkbaar die nog erger kunnen zijn, die alle leven op Aarde zouden kunnen uitroeien? Toen een nieuwe deeltjesversneller in gang werd gezet, vroegen sommigen zich angstig af of dit de Aarde kon vernietigen of, erger nog, de structuur van de ruimte verstoren. Hier kan je gelukkig gerustgesteld worden. Ik en anderen legden uit dat de natuur dit soort experimenten al ontelbare keren had gedaan, bij botsingen in de kosmische straling. Maar wetenschappers moeten zeker voorzichtig zijn met experimenten die voorwaarden scheppen zonder precedent in de natuurlijke wereld. Biologen moeten vermijden om potentieel verwoestende genetisch gemodificeerde pathogenen los te laten.
And by the way, our special aversion to the risk of truly existential disasters depends on a philosophical and ethical question, and it's this: Consider two scenarios. Scenario A wipes out 90 percent of humanity. Scenario B wipes out 100 percent. How much worse is B than A? Some would say 10 percent worse. The body count is 10 percent higher. But I claim that B is incomparably worse. As an astronomer, I can't believe that humans are the end of the story. It is five billion years before the sun flares up, and the universe may go on forever, so post-human evolution, here on Earth and far beyond, could be as prolonged as the Darwinian process that's led to us, and even more wonderful. And indeed, future evolution will happen much faster, on a technological timescale, not a natural selection timescale.
Overigens hangt onze specifieke afkeer voor het risico op waarlijk existentiële rampen van een filosofische en ethische vraag af. En wel deze. Beschouw twee scenario's. Scenario A roeit 90% van de mensheid uit. Scenario B roeit 100% van de mensheid uit. Hoeveel is B erger dan A? Sommigen zouden zeggen 10% erger. Er zijn 10% meer doden. Maar ik zeg dat B onvergelijkbaar erger is. Als astronoom kan ik niet geloven dat mensheid het einde van het verhaal is. We hebben nog 5 miljard jaar voordat de zon ontploft en het universum kan misschien eeuwig blijven bestaan. Posthumane evolutie kan hier op Aarde en ver daarbuiten even lang duren als het Darwiniaanse proces dat tot ons heeft geleid, en zelfs nog wonderlijker zijn. Toekomstige evolutie zal inderdaad veel vlugger verlopen op een technologische tijdschaal, niet op de tijdschaal van natuurlijke selectie.
So we surely, in view of those immense stakes, shouldn't accept even a one in a billion risk that human extinction would foreclose this immense potential. Some scenarios that have been envisaged may indeed be science fiction, but others may be disquietingly real. It's an important maxim that the unfamiliar is not the same as the improbable, and in fact, that's why we at Cambridge University are setting up a center to study how to mitigate these existential risks. It seems it's worthwhile just for a few people to think about these potential disasters. And we need all the help we can get from others, because we are stewards of a precious pale blue dot in a vast cosmos, a planet with 50 million centuries ahead of it. And so let's not jeopardize that future.
Met deze immense kansen voor ogen zouden we zelfs geen risico van één op een miljard moeten accepteren waardoor onze uitroeiing deze immense mogelijkheden zouden uitsluiten. Enkele voorgestelde scenario's lijken misschien sciencefiction, maar andere zijn misschien verontrustend realistisch. Het is belangrijk je te realiseren dat het ongewone niet hetzelfde is als het onwaarschijnlijke. Daarom hebben we in Cambridge een onderzoekscentrum opgericht om te bestuderen hoe we deze existentiële risico's kunnen afzwakken. Het leek waardevol dat enkele mensen gingen nadenken over mogelijke rampen. We hebben daarbij alle hulp van anderen nodig omdat we de beheerders zijn van een kostbaar bleekblauw plekje in een weidse kosmos, een planeet die nog 50 miljoen eeuwen te gaan heeft. Laten we die toekomst niet in gevaar brengen.
And I'd like to finish with a quote from a great scientist called Peter Medawar. I quote, "The bells that toll for mankind are like the bells of Alpine cattle. They are attached to our own necks, and it must be our fault if they do not make a tuneful and melodious sound."
Ik zou willen eindigen met een citaat van de grote wetenschapper Peter Medawar. "De klokken die luiden voor de mensheid zijn als de bellen van Alpenvee. Ze hangen om onze eigen nek, dus hangt het van ons af of ze al dan niet welluidend zijn."
Thank you very much.
Erg bedankt.
(Applause)
(Applaus)