Ten years ago, I wrote a book which I entitled "Our Final Century?" Question mark. My publishers cut out the question mark. (Laughter) The American publishers changed our title to "Our Final Hour." Americans like instant gratification and the reverse. (Laughter)
10 лет назад я написал книгу и назвал её «Наше последнее столетие?» со знаком вопроса. Мои издатели убрали знак вопроса. (Смех) Американские издатели поменяли название на «Наш последний час». Американцы любят получать всё и сразу. (Смех)
And my theme was this: Our Earth has existed for 45 million centuries, but this one is special — it's the first where one species, ours, has the planet's future in its hands. Over nearly all of Earth's history, threats have come from nature — disease, earthquakes, asteroids and so forth — but from now on, the worst dangers come from us. And it's now not just the nuclear threat; in our interconnected world, network breakdowns can cascade globally; air travel can spread pandemics worldwide within days; and social media can spread panic and rumor literally at the speed of light. We fret too much about minor hazards — improbable air crashes, carcinogens in food, low radiation doses, and so forth — but we and our political masters are in denial about catastrophic scenarios. The worst have thankfully not yet happened. Indeed, they probably won't. But if an event is potentially devastating, it's worth paying a substantial premium to safeguard against it, even if it's unlikely, just as we take out fire insurance on our house.
Моя тема была такова: Земле около 45 миллионов веков, но наш век особенный. Это первое столетие, когда судьба планеты стала зависеть от одного биологического вида — от нас. Почти всю историю Земли угрозы исходили от природы: болезни, землетрясения, астероиды и т.п. Но теперь главная опасность исходит от нас. Сейчас это уже не только ядерная угроза. В нашем взаимосвязанном мире сбои в сети могут вызвать цепную реакцию, авиарейсы могут разнести эпидемии по всему миру за пару дней, а социальные сети могут посеять панику и слухи буквально со скоростью света. Нас слишком волнуют незначительные опасности: маловероятные авиакатастрофы, канцерогены в пище, низкие дозы радиации, и т.п. Но мы и наши политики не замечаем катастрофических угроз. Худшее, к счастью, ещё не произошло и, возможно, не произойдёт. Но если событие несёт серьёзную потенциальную угрозу, то стоит приложить максимум усилий, чтобы предотвратить его, даже если оно маловероятно — подобно страхованию дома на случай пожара.
And as science offers greater power and promise, the downside gets scarier too. We get ever more vulnerable. Within a few decades, millions will have the capability to misuse rapidly advancing biotech, just as they misuse cybertech today. Freeman Dyson, in a TED Talk, foresaw that children will design and create new organisms just as routinely as his generation played with chemistry sets. Well, this may be on the science fiction fringe, but were even part of his scenario to come about, our ecology and even our species would surely not survive long unscathed. For instance, there are some eco-extremists who think that it would be better for the planet, for Gaia, if there were far fewer humans. What happens when such people have mastered synthetic biology techniques that will be widespread by 2050? And by then, other science fiction nightmares may transition to reality: dumb robots going rogue, or a network that develops a mind of its own threatens us all.
Наука предлагает всё большие возможности и перспективы, но обратная сторона тоже становится всё более пугающей. Мы становимся всё уязвимее. Через несколько десятилетий у миллионов людей появится возможность злоупотреблять быстроразвивающимися биотехнологиями, так же как они злоупотребляют кибертехнологиями сегодня. Фримен Дайсон, выступая на TED, предположил, что дети будут разрабатывать и создавать новые организмы, подобно тому, как его поколение играло с химическими наборами. Ладно, это, может, и из области научной фантастики, но если хотя бы часть его предположений сбудется, то наша экология и даже наш вид недолго просуществуют в благополучии. К примеру, некоторые эко-экстремисты считают, что для планеты, для Геи, было бы лучше, если бы людей было куда меньше. Что, если такие люди получат контроль над синтетическими биотехнологиями, которые будут распространены к 2050 году? Тогда другие кошмары из научной фантастики могут стать реальностью: глупые роботы выйдут из-под контроля или компьютерная сеть станет разумной и будет угрожать всем нам.
Well, can we guard against such risks by regulation? We must surely try, but these enterprises are so competitive, so globalized, and so driven by commercial pressure, that anything that can be done will be done somewhere, whatever the regulations say. It's like the drug laws — we try to regulate, but can't. And the global village will have its village idiots, and they'll have a global range.
Можем ли мы предотвратить такие угрозы с помощью контроля? Мы должны, конечно, попробовать, но эти процессы настолько сильны, глобальны и настолько выгодны кому-то, что то, что может быть сделано, будет сделано где-нибудь, невзирая ни на какие запреты. Это похоже на законы о наркотиках, которые зачастую бессильны. И во всемирной деревне найдутся свои деревенские дурачки, у которых будет в распоряжении вся планета.
So as I said in my book, we'll have a bumpy ride through this century. There may be setbacks to our society — indeed, a 50 percent chance of a severe setback. But are there conceivable events that could be even worse, events that could snuff out all life? When a new particle accelerator came online, some people anxiously asked, could it destroy the Earth or, even worse, rip apart the fabric of space? Well luckily, reassurance could be offered. I and others pointed out that nature has done the same experiments zillions of times already, via cosmic ray collisions. But scientists should surely be precautionary about experiments that generate conditions without precedent in the natural world. Biologists should avoid release of potentially devastating genetically modified pathogens.
Так что, как я и сказал в своей книге, в этом веке нам предстоит тернистый путь. Наше общество может ждать регресс. Вероятность сильного регресса — 50%. Но могут ли произойти события, которые будут ещё хуже, события, которые уничтожат жизнь вообще? Когда закончилась работа над новым ускорителем частиц, некоторые выражали беспокойство: может ли он уничтожить Землю или, ещё хуже, разорвать космическую материю? К счастью, всё не так уж плохо. Я и другие подметили, что природа совершала такие эксперименты уже бесчисленное количество раз, сталкивая космические лучи. Но учёным следует быть крайне осторожными с экспериментами, в ходе которых получается нечто, чего никогда не было в природе. Биологам стоит избегать создания потенциально крайне опасных генетически модифицированных болезнетворных микробов.
And by the way, our special aversion to the risk of truly existential disasters depends on a philosophical and ethical question, and it's this: Consider two scenarios. Scenario A wipes out 90 percent of humanity. Scenario B wipes out 100 percent. How much worse is B than A? Some would say 10 percent worse. The body count is 10 percent higher. But I claim that B is incomparably worse. As an astronomer, I can't believe that humans are the end of the story. It is five billion years before the sun flares up, and the universe may go on forever, so post-human evolution, here on Earth and far beyond, could be as prolonged as the Darwinian process that's led to us, and even more wonderful. And indeed, future evolution will happen much faster, on a technological timescale, not a natural selection timescale.
Между тем, наше особое неприятие возможности всемирных катастроф связано с философским и этическим вопросом. Его суть в следующем. Рассмотрим два варианта. Вариант A: исчезнет 90% человечества. Вариант Б: исчезнет 100%. Насколько Б хуже A? Кто-то скажет, что хуже на 10%. Число умерших больше на 10%. Но я убеждён, что Б несравнимо хуже. Как астроном, я не могу поверить, что люди, как вид, — это конец истории. До момента, когда потухнет Солнце, остаётся ещё 5 миллиардов лет, а Вселенная, возможно, не исчезнет никогда. Дальнейшая эволюция человека здесь, на Земле, и далеко за её пределами могла бы продолжаться так же долго, как и естественный отбор, в результате которого появились мы, и была бы ещё удивительнее. И на самом деле, грядущая эволюция будет куда быстрее — по технологической временной шкале, а не по шкале естественного отбора.
So we surely, in view of those immense stakes, shouldn't accept even a one in a billion risk that human extinction would foreclose this immense potential. Some scenarios that have been envisaged may indeed be science fiction, but others may be disquietingly real. It's an important maxim that the unfamiliar is not the same as the improbable, and in fact, that's why we at Cambridge University are setting up a center to study how to mitigate these existential risks. It seems it's worthwhile just for a few people to think about these potential disasters. And we need all the help we can get from others, because we are stewards of a precious pale blue dot in a vast cosmos, a planet with 50 million centuries ahead of it. And so let's not jeopardize that future.
Так что мы, конечно, видя, что поставлено на карту, не должны мириться даже с вероятностью один к миллиарду, что человечество исчезнет, не раскрыв этот гигантский потенциал. Некоторые упомянутые сценарии могут на деле оказаться фантастикой, но другие могут тревожить нас своей реалистичностью. Важно помнить, что неизвестное — не то же самое, что невозможное. Именно поэтому мы в Кембриджском университете открываем центр по изучению того, как уменьшить вероятность таких катастроф. Кажется, лишь несколько человек готовы размышлять об этих потенциальных бедствиях, и нам нужна любая помощь со стороны. Ведь именно от людей зависит судьба бесценной бледно-голубой точки посреди огромного космоса — планеты с будущим в 50 миллионов веков. Так что давайте не будем рисковать этим будущим.
And I'd like to finish with a quote from a great scientist called Peter Medawar. I quote, "The bells that toll for mankind are like the bells of Alpine cattle. They are attached to our own necks, and it must be our fault if they do not make a tuneful and melodious sound."
И мне бы хотелось закончить цитатой великого учёного Питера Медавара. Я цитирую: «Колокола, звонящие по человечеству, похожи на колокольчики для альпийского скота. Они висят на наших шеях, и, должно быть, это наша вина, что они не издают гармоничного и певучего звона».
Thank you very much.
Большое вам спасибо.
(Applause)
(Аплодисменты)