I want to talk today about -- I've been asked to take the long view, and I'm going to tell you what I think are the three biggest problems for humanity from this long point of view. Some of these have already been touched upon by other speakers, which is encouraging. It seems that there's not just one person who thinks that these problems are important.
Сегодня я хочу поговорить о ... Меня попросили посмотреть далеко в будущее, и вот что я думаю. Я полагаю, с этой точки зрения, у человечества есть три главные проблемы. Некоторые из них уже поднимались другими ораторами, что ободряет. Видимо, существует много людей, которые считают эти проблемы важными.
The first is -- death is a big problem. If you look at the statistics, the odds are not very favorable to us. So far, most people who have lived have also died. Roughly 90 percent of everybody who has been alive has died by now. So the annual death rate adds up to 150,000 -- sorry, the daily death rate -- 150,000 people per day, which is a huge number by any standard. The annual death rate, then, becomes 56 million. If we just look at the single, biggest cause of death -- aging -- it accounts for roughly two-thirds of all human people who die. That adds up to an annual death toll of greater than the population of Canada. Sometimes, we don't see a problem because either it's too familiar or it's too big. Can't see it because it's too big. I think death might be both too familiar and too big for most people to see it as a problem.
Первая. Смерть — это огромная проблема. Если взглянуть на статистику, наши шансы не очень благоприятны. Сейчас большинство когда-либо живших людей уже мертвы. Примерно 90% всех, кто был жив, сейчас мёртв. Ежегодная, простите, ежедневная смертность составляет 150 тысяч человек в день, что является огромным числом, независимо от стандартов. Ежегодная смертность составляет 56 миллионов. Возьмём только основную причину смерти — старение — на чью долю приходится примерно две трети всех смертей. Ежегодно смерть уносит больше людей, чем живёт в Канаде. Временами мы не видим саму проблему: она либо слишком привычна, либо слишком колоссальна. Не видим, потому что она слишком огромна. Я считаю, смерть может быть и слишком знакомой и слишком большой для большинства людей, чтобы видеть в этом проблему.
Once you think about it, you see this is not statistical points; these are -- let's see, how far have I talked? I've talked for three minutes. So that would be, roughly, 324 people have died since I've begun speaking. People like -- it's roughly the population in this room has just died. Now, the human cost of that is obvious, once you start to think about it -- the suffering, the loss -- it's also, economically, enormously wasteful. I just look at the information, and knowledge, and experience that is lost due to natural causes of death in general, and aging, in particular.
Если вы задумаетесь, вы увидите, что это не просто цифры. Это… давайте взглянем на то, как долго я вещаю? Я говорю уже около трёх минут. Это будет, примерно, 324 смерти с того момента, как я начал говорить. Людей как... это, как будто все люди в этом зале только что умерли. Человеческие потери очевидны. Когда вы задумываетесь об этом — о страданиях, потерях — это к тому же очень затратно экономически. Я рассматриваю только информацию, знания и опыт, которые потеряны из-за смерти по естественным причинам в целом, и старения, в частности.
Suppose we approximated one person with one book? Now, of course, this is an underestimation. A person's lifetime of learning and experience is a lot more than you could put into a single book. But let's suppose we did this. 52 million people die of natural causes each year corresponds, then, to 52 million volumes destroyed. Library of Congress holds 18 million volumes. We are upset about the burning of the Library of Alexandria. It's one of the great cultural tragedies that we remember, even today. But this is the equivalent of three Libraries of Congress -- burnt down, forever lost -- each year.
Предположим, мы приравняли одного человека к одной книге. Это, конечно, недооценка. Жизненный опыт и обучение человека гораздо больше того, что можно записать в одну книгу. Но, предположим, мы сделали это. 52 миллиона человек умирает естественной смертью каждый год. Это соответствует уничтожению 52 миллионов книжных томов. Библиотека Конгресса США содержит 18 миллионов томов. Мы огорчены утратой Александрийской библиотеки. Это одна из величайших культурных трагедий, которую мы помним даже сейчас. Она эквивалентна трём Библиотекам Конгресса США... сожжена, потеряна навсегда... и так каждый год.
So that's the first big problem. And I wish Godspeed to Aubrey de Grey, and other people like him, to try to do something about this as soon as possible. Existential risk -- the second big problem. Existential risk is a threat to human survival, or to the long-term potential of our species. Now, why do I say that this is a big problem? Well, let's first look at the probability -- and this is very, very difficult to estimate -- but there have been only four studies on this in recent years, which is surprising. You would think that it would be of some interest to try to find out more about this given that the stakes are so big, but it's a very neglected area.
Итак, это первая огромная проблема. Я хочу пожелать удачи Обри де Грею, и другим людям, в их попытках решить эту проблему как можно скорее. Экзистенциальный риск — вторая большая проблема. Экзистенциальный риск является угрозой для человеческого выживания или для наших долговременных возможностей. Теперь, почему же я сказал, что это является проблемой? Хорошо, давайте взглянем на вероятность… её очень сложно оценить... за последние годы по этому вопросу было всего четыре исследования, что удивляет. Можно подумать, что есть некий интерес к попыткам найти что-то об этой теме, учитывая, что ставки высоки, но это весьма запущенная область.
But there have been four studies -- one by John Lesley, wrote a book on this. He estimated a probability that we will fail to survive the current century: 50 percent. Similarly, the Astronomer Royal, whom we heard speak yesterday, also has a 50 percent probability estimate. Another author doesn't give any numerical estimate, but says the probability is significant that it will fail. I wrote a long paper on this. I said assigning a less than 20 percent probability would be a mistake in light of the current evidence we have. Now, the exact figures here, we should take with a big grain of salt, but there seems to be a consensus that the risk is substantial. Everybody who has looked at this and studied it agrees.
Но были четыре исследования... одно из них Джона Лесли, написавшего книгу об этой проблеме. Он оценил вероятность того, что мы не в состоянии пережить этот век, как 50 %. Так же, Королевский астроном (Мартин Рис), которого мы слушали вчера, говорил о 50% вероятности. Другой автор не даёт конкретных числовых оценок, но говорит о значительной вероятности. Я написал длинную работу об этом. Я говорил, что давать вероятность меньше 20% было бы ошибкой, в свете тех доказательств, что мы имеем. Теперь есть точные цифры, которые мы можем принять с большой осторожностью, но мы должны прийти к согласию, что риски существенны. Все те, кто смотрел и изучал эти работы, согласны с этим.
Now, if we think about what just reducing the probability of human extinction by just one percentage point -- not very much -- so that's equivalent to 60 million lives saved, if we just count the currently living people, the current generation. Now one percent of six billion people is equivalent to 60 million. So that's a large number. If we were to take into account future generations that will never come into existence if we blow ourselves up, then the figure becomes astronomical. If we could eventually colonize a chunk of the universe -- the Virgo supercluster -- maybe it will take us 100 million years to get there, but if we go extinct we never will. Then, even a one percentage point reduction in the extinction risk could be equivalent to this astronomical number -- 10 to the power of 32.
Если мы подумаем о сокращении вероятности человеческого вымирания на 1%... это не так много... это 60 миллионов спасённых жизней, если просто посчитать всех живущих, то это нынешнее поколение. Один процент от 6 миллиардов, это 60 миллионов. Это огромное число. Если принять во внимание будущие поколения, которые могут не появиться, если мы уничтожим себя, тогда цифры станут просто астрономическими. Если мы, в конце концов, могли бы колонизировать часть вселенной... скопление галактик в Деве... возможно, это заняло бы 100 миллионов лет, но если мы вымрем, мы никогда этого не сделаем. Тогда, даже сокращение риска исчезновения на 1% будет эквивалентно этой астрономической цифре: 10 в 32 степени.
So if you take into account future generations as much as our own, every other moral imperative of philanthropic cost just becomes irrelevant. The only thing you should focus on would be to reduce existential risk because even the tiniest decrease in existential risk would just overwhelm any other benefit you could hope to achieve. And even if you just look at the current people, and ignore the potential that would be lost if we went extinct, it should still have a high priority. Now, let me spend the rest of my time on the third big problem, because it's more subtle and perhaps difficult to grasp. Think about some time in your life -- some people might never have experienced it -- but some people, there are just those moments that you have experienced where life was fantastic.
Итак, если принять все будущие поколения, как свои собственные, все остальные моральные двигатели филантропических затрат перестают быть значимыми. Нужно сфокусироваться на одной вещи — снижение экзистенциального риска, потому что даже крохотное снижение глобальных рисков позволит овладеть любыми выгодами, которых надеялись достичь. И если взглянуть на нынешних людей и проигнорировать весь потенциал, который может быть потерян, если мы все погибнем, это по-прежнему будет иметь высокий приоритет. Теперь, позвольте мне потратить оставшееся время на третью большую проблему, потому что она достаточно тонкая и, возможно, трудна для осознания. Подумайте о каком-то этапе вашей жизни... некоторые люди никогда это не испытывали... но у других были моменты осознания того, что жизнь потрясающая.
It might have been at the moment of some great, creative inspiration you might have had when you just entered this flow stage. Or when you understood something you had never done before. Or perhaps in the ecstasy of romantic love. Or an aesthetic experience -- a sunset or a great piece of art. Every once in a while we have these moments, and we realize just how good life can be when it's at its best. And you wonder, why can't it be like that all the time? You just want to cling onto this. And then, of course, it drifts back into ordinary life and the memory fades. And it's really difficult to recall, in a normal frame of mind, just how good life can be at its best. Or how bad it can be at its worst.
Это могло быть в моменты огромного, творческого вдохновения которые, вероятно, у вас были, когда вы попали в «поток». Или когда вы поняли, как делается что-то, с первого раза. Или в порыве экстаза от романтической любви. Или эстетическое переживание... закат солнца или великолепное произведение искусства. Каждый раз в такие моменты мы понимаем, насколько хороша может быть жизнь в своих лучших проявлениях. Вы удивляетесь, почему эти моменты не могут быть постоянны? Вы цепляетесь за эти вещи. И затем, конечно же, вас переносит в повседневность и воспоминания блекнут. И в обычном состоянии духа эти вещи действительно трудно вспомнить, насколько хороша может быть жизнь в своих лучших проявлениях. Или насколько ужасна она может быть в плохих проявлениях.
The third big problem is that life isn't usually as wonderful as it could be. I think that's a big, big problem. It's easy to say what we don't want. Here are a number of things that we don't want -- illness, involuntary death, unnecessary suffering, cruelty, stunted growth, memory loss, ignorance, absence of creativity. Suppose we fixed these things -- we did something about all of these. We were very successful. We got rid of all of these things. We might end up with something like this, which is -- I mean, it's a heck of a lot better than that. But is this really the best we can dream of? Is this the best we can do?
Третья большая проблема это то, что жизнь обычно не так восхитительна, какой может быть. Я считаю, это огромная, колоссальная проблема. Легко перечислить то, чего мы не желаем. Вот, например, чего мы не хотим: болезни, невольная смерть, ненужные страдания, жестокость, задержка роста, потеря памяти, невежество, отсутствие творчества. Предположим, мы решили эти вещи… мы сделали что-то с каждой из них. Нам очень повезло. Мы избавились от этих вещей. Мы могли бы сделать что-то вроде этого. Что... Я имею в виду, это чертовски здорово, но действительно ли это лучше того, о чем мы можем мечтать? Это самое лучшее, что мы можем сделать?
Or is it possible to find something a little bit more inspiring to work towards? And if we think about this, I think it's very clear that there are ways in which we could change things, not just by eliminating negatives, but adding positives. On my wish list, at least, would be: much longer, healthier lives, greater subjective well-being, enhanced cognitive capacities, more knowledge and understanding, unlimited opportunity for personal growth beyond our current biological limits, better relationships, an unbounded potential for spiritual, moral and intellectual development.
Или возможно есть что-то более воодушевляющее для работы над этим? Если мы задумаемся, думаю, ясно, что есть способы, при помощи которых мы могли бы изменить положение вещей, не только за счёт устранения негатива, но и добавляя позитив. Мой минимальный список желаний включает: намного более продолжительную и здоровую жизнь, больше благополучия, расширение познавательных способностей, больше знаний и понимания, бесконечные возможности для персонального роста за пределами наших биологических возможностей, лучшее взаимопонимание, неограниченный потенциал для духовного, нравственного и интеллектуального развития.
If we want to achieve this, what, in the world, would have to change? And this is the answer -- we would have to change. Not just the world around us, but we, ourselves. Not just the way we think about the world, but the way we are -- our very biology. Human nature would have to change. Now, when we think about changing human nature, the first thing that comes to mind are these human modification technologies -- growth hormone therapy, cosmetic surgery, stimulants like Ritalin, Adderall, anti-depressants, anabolic steroids, artificial hearts. It's a pretty pathetic list. They do great things for a few people who suffer from some specific condition, but for most people, they don't really transform what it is to be human. And they also all seem a little bit -- most people have this instinct that, well, sure, there needs to be anti-depressants for the really depressed people. But there's a kind of queasiness that these are unnatural in some way.
Что необходимо поменять в нашем мире, чтобы достичь этого? И вот ответ на вопрос — мы должны изменить. Не просто мир вокруг нас, но и себя самих. Не только наше восприятие мира, но и нас самих, нашей истинной биологии. Природа человека должна измениться. Теперь, когда мы подумаем об изменении человеческой природы, первое, что приходит в голову — это технологии модификации человека: применение гормона роста, пластическая хирургия, стимуляторы (риталин, аддералл), антидепрессанты, анаболические стероиды, искусственные сердца. Это довольно жалкий список. Они здорово помогают определённой группе людей, которые страдают от некоторых специфичных состояний. Но для большинства людей они не меняют сути того, что значит быть человеком. Кроме того, отношение к ним... многие уверены, что, хорошо, конечно, антидепрессанты действительно необходимы подавленным людям. Но есть некоторое беспокойство, что это несколько неестественно.
It's worth recalling that there are a lot of other modification technologies and enhancement technologies that we use. We have skin enhancements, clothing. As far as I can see, all of you are users of this enhancement technology in this room, so that's a great thing. Mood modifiers have been used from time immemorial -- caffeine, alcohol, nicotine, immune system enhancement, vision enhancement, anesthetics -- we take that very much for granted, but just think about how great progress that is -- like, having an operation before anesthetics was not fun. Contraceptives, cosmetics and brain reprogramming techniques -- that sounds ominous,
Стоит напомнить, что есть много других изменяющих и усовершенствующих технологий, которые мы используем. У нас есть технологии улучшения кожи — одежда. Насколько я могу видеть, каждый из вас в этой комнате использует эту технологию, так что, это большое дело. Модификаторы настроения использовались с незапамятных времён... кофеин, алкоголь, никотин, повышение иммунной системы, улучшение зрения, обезболивающие. Мы принимаем это нечто как само собой разумеющееся, но подумайте насколько это большой прогресс, например, операция без обезболивания была невесела. Контрацептивы, косметика и техники перепрограммирования мозга... это звучит угрожающе.
but the distinction between what is a technology -- a gadget would be the archetype -- and other ways of changing and rewriting human nature is quite subtle. So if you think about what it means to learn arithmetic or to learn to read, you're actually, literally rewriting your own brain. You're changing the microstructure of your brain as you go along. So in a broad sense, we don't need to think about technology as only little gadgets, like these things here, but even institutions and techniques, psychological methods and so forth. Forms of organization can have a profound impact on human nature.
Но разница между тем, что является технологией — новое устройство будет образцом — и иными способами изменения и перезаписи человеческого естества довольно тонка. Если вы задумаетесь: что значит выучить арифметику или научиться читать? Вы на самом деле, буквально переписываете свой мозг. При этом вы изменяете микроструктуры вашего мозга. В широком смысле, нам не нужно думать о технологии только как о новых устройствах, таких, как эти, а как об институтах и техниках, психологических методах и так далее. Организации могут оказать глубокое воздействие на человеческую природу.
Looking ahead, there is a range of technologies that are almost certain to be developed sooner or later. We are very ignorant about what the time scale for these things are, but they all are consistent with everything we know about physical laws, laws of chemistry, etc. It's possible to assume, setting aside a possibility of catastrophe, that sooner or later we will develop all of these. And even just a couple of these would be enough to transform the human condition.
Смотря в будущее, существует ряд технологий, которые определённо будут разработаны рано или поздно. Нам не известно, сколько времени понадобится для разработки этих технологий, но все они соответствуют всему тому, что мы знаем о законах физики, химических законах и других. Можно считать, что снижение вероятности возможных катастроф, рано или поздно приведёт нас к развитию этих технологий. И даже парочки из них будет достаточно, чтобы изменить человека.
So let's look at some of the dimensions of human nature that seem to leave room for improvement. Health span is a big and urgent thing, because if you're not alive, then all the other things will be to little avail. Intellectual capacity -- let's take that box, which falls into a lot of different sub-categories: memory, concentration, mental energy, intelligence, empathy. These are really great things. Part of the reason why we value these traits is that they make us better at competing with other people -- they're positional goods. But part of the reason -- and that's the reason why we have ethical ground for pursuing these -- is that they're also intrinsically valuable. It's just better to be able to understand more of the world around you and the people that you are communicating with, and to remember what you have learned. Modalities and special faculties. Now, the human mind is not a single unitary information processor, but it has a lot of different, special, evolved modules that do specific things for us. If you think about what we normally take as giving life a lot of its meaning -- music, humor, eroticism, spirituality, aesthetics, nurturing and caring, gossip, chatting with people --
Итак, давайте взглянем не некоторые аспекты человеческой природы, которые могут быть улучшены. Протяжённость здоровой жизни это важное и срочное дело, потому что, если вы не живы, тогда все остальные вещи станут слабо полезны. Интеллектуальный потенциал — давайте возьмём его. Его можно разложить на много разных категорий: память, концентрация, умственные силы, интеллект, переживания. Все это очень важно. Одна из причин, почему мы ценим эти качества — они делают нас конкурентноспособными... они являются позиционными товарами. С другой стороны, причина нравственных оснований стремления к этим качествам в том, что они ценны по своей сути. Так здорово иметь возможность понимать мир вокруг нас и людей, с которыми мы общаемся, и помнить то, чему мы научились. Условия и специальные возможности. Человеческий разум — это не только один цельный информационный процессор, но и много разных, специально задействованных модулей, которые делают конкретные вещи для нас. Давайте подумаем о том, что придаёт жизни смысл: музыка, юмор, эротика, духовность, эстетика, воспитание и забота, слухи, общение с людьми.
all of these, very likely, are enabled by a special circuitry that we humans have, but that you could have another intelligent life form that lacks these. We're just lucky that we have the requisite neural machinery to process music and to appreciate it and enjoy it. All of these would enable, in principle -- be amenable to enhancement. Some people have a better musical ability and ability to appreciate music than others have. It's also interesting to think about what other things are -- so if these all enabled great values, why should we think that evolution has happened to provide us with all the modalities we would need to engage with other values that there might be?
Все они, скорей всего, задействованы специальной схемой, которая есть у людей, но могла быть и другая форма разумной жизни, в которой был бы недостаток таких вещей. Нам просто повезло, что у нас есть необходимые нейронные механизмы для обработки музыки, понимания и восхищения ею. Всё это, в принципе, поддаётся улучшению. Некоторые люди имеют лучший музыкальный слух и возможность оценивать музыку, чем другие. Интересно, что же представляют из себя другие возможности. Итак, если все они имеют большое значение, почему мы должны считать, что эволюция предоставила нам все условия для взаимодействия с другими возможностями, которые могут существовать?
Imagine a species that just didn't have this neural machinery for processing music. And they would just stare at us with bafflement when we spend time listening to a beautiful performance, like the one we just heard -- because of people making stupid movements, and they would be really irritated and wouldn't see what we were up to. But maybe they have another faculty, something else that would seem equally irrational to us, but they actually tap into some great possible value there. But we are just literally deaf to that kind of value. So we could think of adding on different, new sensory capacities and mental faculties. Bodily functionality and morphology and affective self-control. Greater subjective well-being. Be able to switch between relaxation and activity -- being able to go slow when you need to do that, and to speed up. Able to switch back and forth more easily would be a neat thing to be able to do -- easier to achieve the flow state, when you're totally immersed in something you are doing. Conscientiousness and sympathy. The ability to -- it's another interesting application that would have large social ramification, perhaps. If you could actually choose to preserve your romantic attachments to one person, undiminished through time, so that wouldn't have to -- love would never have to fade if you didn't want it to. That's probably not all that difficult. It might just be a simple hormone or something that could do this.
Представьте виды, которые просто не имеют нейронных механизмов для обработки музыки. И они будут глазеть на нас с недоумением, когда мы слушаем великолепное представление — как только что прослушанное — из-за людей, делающих глупые движения. Их бы это всё раздражало, и они не поняли бы, чем это мы занимались. Но, быть может, у них есть другая способность, что-то ещё, что, возможно, так же будет злить нас, но оно действительно ценно для них. Но мы не сможем понять, в чём его ценность. Таким образом, мы можем размышлять о добавлении других, новых сенсорных и умственных способностей, физической функциональности и морфологии и контроле эмоций, большем субъективном благополучии, о возможности переключаться между релаксацией и активной деятельностью, возможность замедлиться и ускориться, когда это необходимо. Способность легко переключаться будет отличным условием для возможности более лёгкого достижения состояния «потока», когда вы полностью погружены в созидание. Добросовестность и сочувствие. Cпособности... Это другое интересное применение, которое может иметь широкие общественные последствия. Если бы вы захотели сохранить романтические отношения с другим человеком, неуменьшающиеся со временем, так что никогда не придётся... любовь никогда не угаснет, если вы этого не захотите. Вероятно, это не так уж и трудно. Может быть, обычный гормон или что-то подобное, способное сделать это.
It's been done in voles. You can engineer a prairie vole to become monogamous when it's naturally polygamous. It's just a single gene. Might be more complicated in humans, but perhaps not that much. This is the last picture that I want to -- now we've got to use the laser pointer. A possible mode of being here would be a way of life -- a way of being, experiencing, thinking, seeing, interacting with the world. Down here in this little corner, here, we have the little sub-space of this larger space that is accessible to human beings -- beings with our biological capacities. It's a part of the space that's accessible to animals; since we are animals, we are a subset of that.
Это было сделано с полёвками. Можно модифицировать степную полёвку, чтобы она стала моногамной, хотя изначально она полигамна. Это просто один ген. Может для людей это будет несколько сложнее, но не слишком. Это последняя картинка, которую я хочу... я воспользуюсь лазерной указкой. Вероятным способом бытия будет жизненный путь... образ жизни, опыт, размышления, созерцание, взаимодействие с миром. Здесь, снизу, в этом уголочке есть небольшое подпространство, часть большего пространства, доступного человечеству... существам с нашими биологическими возможностями. Это часть пространства доступная для животных... поскольку мы тоже являемся животными, мы здесь подсистема.
And then you can imagine some enhancements of human capacities. There would be different modes of being you could experience if you were able to stay alive for, say, 200 years. Then you could live sorts of lives and accumulate wisdoms that are just not possible for humans as we currently are. So then, you move off to this larger sphere of "human +," and you could continue that process and eventually explore a lot of this larger space of possible modes of being.
Вы можете представить себе некоторые улучшения человеческого потенциала. Можно представить множество способов существования, если вы сможете оставаться в живых в течение хотя бы 200 лет. Тогда вы смогли бы прожить разные жизни и накопить знания, которые просто недоступны для нынешних нас. И затем вы смогли бы достичь этой большой сферы, «Человек +» и продолжить этот процесс и, в конечном итоге, исследовать большую часть этого огромного пространства возможных способов бытия.
Now, why is that a good thing to do? Well, we know already that in this little human circle there, there are these enormously wonderful and worthwhile modes of being -- human life at its best is wonderful. We have no reason to believe that within this much, much larger space there would not also be extremely worthwhile modes of being, perhaps ones that would be way beyond our wildest ability even to imagine or dream about. And so, to fix this third problem, I think we need -- slowly, carefully, with ethical wisdom and constraint -- develop the means that enable us to go out in this larger space and explore it and find the great values that might hide there. Thanks.
Теперь, почему же это хорошая идея? Хорошо, мы уже знаем, что в этом небольшом круге для людей, есть крайне замечательные и сто́ящие способы существования... человеческая жизнь прекрасна в своих лучших проявлениях. У нас нет оснований полагать, что в этом намного большем пространстве не будет также крайне полезных способов существования, возможно тех, о которых мы не рискуем представить даже в самых смелых мечтах. Итак, чтобы решить третью проблему, Я считаю, мы должны... медленно, осторожно, мудро и сдержанно разработать средства, которые позволят нам войти в это огромное пространство и изучить его. И найти потрясающие блага, которые там могут быть спрятаны. Спасибо.