I want to talk today about -- I've been asked to take the long view, and I'm going to tell you what I think are the three biggest problems for humanity from this long point of view. Some of these have already been touched upon by other speakers, which is encouraging. It seems that there's not just one person who thinks that these problems are important.
今日は 長期的な視点での話というリクエストを受けました 人類にとって最大の3つの問題について 長期的な視点でお話します ほかのスピーカーの話と重複するものもありますが それはいいことだと思っています なぜなら 今日お話しする問題の重要性を 僕以外の人も感じているということだからです
The first is -- death is a big problem. If you look at the statistics, the odds are not very favorable to us. So far, most people who have lived have also died. Roughly 90 percent of everybody who has been alive has died by now. So the annual death rate adds up to 150,000 -- sorry, the daily death rate -- 150,000 people per day, which is a huge number by any standard. The annual death rate, then, becomes 56 million. If we just look at the single, biggest cause of death -- aging -- it accounts for roughly two-thirds of all human people who die. That adds up to an annual death toll of greater than the population of Canada. Sometimes, we don't see a problem because either it's too familiar or it's too big. Can't see it because it's too big. I think death might be both too familiar and too big for most people to see it as a problem.
第一の問題は 死 これは大きな問題です 統計的には 私達に勝ち目はなさそうです 今のところ 生まれた人はほぼ全員死んでいます 今までに生きた人の大体90%は死んでいます つまり 年間の死亡者数は15万人 失礼 1日あたりの死亡者数は15万人です これはどう見ても 大きな数字です 年間にすると5600万人が死ぬ計算です 唯一最大の死因は 老化です 死因の約3分の2は老化です 老化により毎年亡くなる人の数は カナダの人口より多いのです 時として 私たちは問題に気付かないことがあります 問題があまりに身近であるか あまりに大きいために 死はほとんどの人にとって あまりに身近であまりに大きく 問題として認識することが できないのだと思います
Once you think about it, you see this is not statistical points; these are -- let's see, how far have I talked? I've talked for three minutes. So that would be, roughly, 324 people have died since I've begun speaking. People like -- it's roughly the population in this room has just died. Now, the human cost of that is obvious, once you start to think about it -- the suffering, the loss -- it's also, economically, enormously wasteful. I just look at the information, and knowledge, and experience that is lost due to natural causes of death in general, and aging, in particular.
考えてみれば 統計的なポイントではないと 分かるでしょう これらのポイントは… ところで どれくらいお話ししたでしょう 3分くらいです つまり 私が話しはじめてから大体324人が亡くなりました 大体この会場にいる人数くらいが 亡くなったのです さて これによる人的コストは明らかです 哀しみや喪失感は言うまでもなく 大変不経済でもあります 例えば 情報、知識、経験といったものが 自然死全般によって失われるのです 特に 老化によって
Suppose we approximated one person with one book? Now, of course, this is an underestimation. A person's lifetime of learning and experience is a lot more than you could put into a single book. But let's suppose we did this. 52 million people die of natural causes each year corresponds, then, to 52 million volumes destroyed. Library of Congress holds 18 million volumes. We are upset about the burning of the Library of Alexandria. It's one of the great cultural tragedies that we remember, even today. But this is the equivalent of three Libraries of Congress -- burnt down, forever lost -- each year.
例えば1人の人を本1冊に例えてみましょう もちろん 1人が1冊というのは過小評価です 人間が一生かけて学んだことや経験は とても1冊の本にまとめられる量ではありません が ここでは例えとして1人1冊と仮定しましょう 毎年5200万人が自然死します つまり 5200万冊の本が消失します 米国議会図書館には1800万冊の蔵書があります アレクサンドリア図書館の焼失は 甚大な文化的損害であり 今日でも語り継がれています 年間の死者数は 米国議会図書館3つ分の書籍が 燃やされ 永遠に失われてしまうに等しい数です
So that's the first big problem. And I wish Godspeed to Aubrey de Grey, and other people like him, to try to do something about this as soon as possible. Existential risk -- the second big problem. Existential risk is a threat to human survival, or to the long-term potential of our species. Now, why do I say that this is a big problem? Well, let's first look at the probability -- and this is very, very difficult to estimate -- but there have been only four studies on this in recent years, which is surprising. You would think that it would be of some interest to try to find out more about this given that the stakes are so big, but it's a very neglected area.
ですので 死は第一の大問題なのです 私は オーブレー・デグレイや 彼のような人々の成功を祈っています できるだけ早く 死を食い止められるように 2つめの大問題は 人類絶滅の危機です これは長期的な種の保存という観点で脅威です なぜ私がこれを問題視するかご説明しましょう まず始めに 確率を見てみましょう それを見積るのは非常に難しいのですが 近年この問題に関する研究は 驚いたことに 4つしかなされていません この 人類絶滅の危機は大変重大な問題なので 興味深い研究対象だと思われるでしょう しかし この分野は全く注目されていないのです
But there have been four studies -- one by John Lesley, wrote a book on this. He estimated a probability that we will fail to survive the current century: 50 percent. Similarly, the Astronomer Royal, whom we heard speak yesterday, also has a 50 percent probability estimate. Another author doesn't give any numerical estimate, but says the probability is significant that it will fail. I wrote a long paper on this. I said assigning a less than 20 percent probability would be a mistake in light of the current evidence we have. Now, the exact figures here, we should take with a big grain of salt, but there seems to be a consensus that the risk is substantial. Everybody who has looked at this and studied it agrees.
とは言え 4つの研究がなされました 一つはジョン・レスリーによるもので 著書もあります レスリーは 人類が21世紀の終わりに生き残れない 確率を50%と見積りました 同様に 昨日スピーチをした英国王室天文官も 50%と見積っています もう1人の著者は数字は示していませんが 生き残れない可能性が非常に大きいとしています 私はこのテーマについて長い論文を書きました 論文中 私は20%未満と見積るのは低すぎるとしました 現状に照らして判断するに ここに実際に計算した結果を示していますが あまり真に受けないで下さい とは言え 相当なリスクとの共通認識が 形成されているようです この計算を見て研究した人全員が納得しました
Now, if we think about what just reducing the probability of human extinction by just one percentage point -- not very much -- so that's equivalent to 60 million lives saved, if we just count the currently living people, the current generation. Now one percent of six billion people is equivalent to 60 million. So that's a large number. If we were to take into account future generations that will never come into existence if we blow ourselves up, then the figure becomes astronomical. If we could eventually colonize a chunk of the universe -- the Virgo supercluster -- maybe it will take us 100 million years to get there, but if we go extinct we never will. Then, even a one percentage point reduction in the extinction risk could be equivalent to this astronomical number -- 10 to the power of 32.
ここで 人類絶滅の可能性を 1%減らせるとしたら 1%というのはわずかなものですが 6000万人の命が助かります 現在の世界人口を考えてみるに 60億人ですから その1%は6000万人です そう考えると1%というのは大きな数字です もし私達の世代が失敗をすれば存在しえない 将来世代まで計算に含めると 計算結果は天文学的な数字になります もし人類が宇宙のどこかに最終的に移住できるとしたら 例えば乙女座超銀河団に移住するとしたら たどり着くのに1億年かかるでしょう でも 生存していなければ決してたどり着けません 人類絶滅のリスクをたった1%低減するだけでも それはこの天文学的な数字 10の32乗という数になるのです
So if you take into account future generations as much as our own, every other moral imperative of philanthropic cost just becomes irrelevant. The only thing you should focus on would be to reduce existential risk because even the tiniest decrease in existential risk would just overwhelm any other benefit you could hope to achieve. And even if you just look at the current people, and ignore the potential that would be lost if we went extinct, it should still have a high priority. Now, let me spend the rest of my time on the third big problem, because it's more subtle and perhaps difficult to grasp. Think about some time in your life -- some people might never have experienced it -- but some people, there are just those moments that you have experienced where life was fantastic.
ですので 将来世代も含めて考えれば 慈善にかかる費用についての道徳上の要請などは 取るに足らない問題です 私達が注目すべきは 人類絶滅のリスクをいかに低減するかです なぜなら ほんのわずかでも人類絶滅のリスクを減らせれば 他のいかなる方法でも達成しえない 大きな利益につながるからです 仮に 今の世代のことだけを考えて 今の世代が絶滅すれば失われてしまう 将来世代の可能性を考慮に入れなくても 人類絶滅のリスクを低減することは優先課題なのです では 残り時間は全部 3つ目の問題の説明に使いましょう この問題はより曖昧で 理解が難しいと思います みなさん ご自身の人生を振り返ってみて下さい まだ一度も経験したことがない方もいれば 経験済みの方もいるでしょう 人生が素晴らしくバラ色だったときを
It might have been at the moment of some great, creative inspiration you might have had when you just entered this flow stage. Or when you understood something you had never done before. Or perhaps in the ecstasy of romantic love. Or an aesthetic experience -- a sunset or a great piece of art. Every once in a while we have these moments, and we realize just how good life can be when it's at its best. And you wonder, why can't it be like that all the time? You just want to cling onto this. And then, of course, it drifts back into ordinary life and the memory fades. And it's really difficult to recall, in a normal frame of mind, just how good life can be at its best. Or how bad it can be at its worst.
それは 素晴らしくクリエイティブなインスピレーションを 感じた瞬間かもしれません この会場に足を踏み入れたときに それは 今まで分からなかったことが理解できた 瞬間かもしれません それは ロマンチックな恋に夢中になった ときかもしれません それは 美しいものに触れたときかもしれません 夕日や芸術作品など ときどき私達はこのような瞬間を味わいます そして 人生が上手くいっているとき 人生はいいものだと思えるのです 一方 なぜ人生はいいときばかりではないのだろう? という疑問もわいてきます 人はこのことに執着しがちです そして 当然のごとく ありふれた日常に引き戻され 思い出は色あせていきます また 普通の心理状態では なかなか思い出せないのです 上手くいっているとき 人生がいかにすばらしいかを また反対に 上手くいかないとき人生がいかに困難かを
The third big problem is that life isn't usually as wonderful as it could be. I think that's a big, big problem. It's easy to say what we don't want. Here are a number of things that we don't want -- illness, involuntary death, unnecessary suffering, cruelty, stunted growth, memory loss, ignorance, absence of creativity. Suppose we fixed these things -- we did something about all of these. We were very successful. We got rid of all of these things. We might end up with something like this, which is -- I mean, it's a heck of a lot better than that. But is this really the best we can dream of? Is this the best we can do?
3つ目の問題は 人生いいことばかりではない ということです 私は これは大問題だと思っています いやなことを挙げるのは簡単なことです 沢山の例を挙げることができます 病気、不本意な死、余計な苦しみ、虐待 発育不良、物忘れ、無知、創造力の欠如 仮に 私達がこれら全てのことを解決できたとしましょう 大成功して いやなこと全部を取り除くことができました その結果は このスライドのようなものでしょうか いや これよりずっともっと良くなるでしょう 私達が望むのは本当にこの程度のことでしょうか? この程度しかできないのでしょうか?
Or is it possible to find something a little bit more inspiring to work towards? And if we think about this, I think it's very clear that there are ways in which we could change things, not just by eliminating negatives, but adding positives. On my wish list, at least, would be: much longer, healthier lives, greater subjective well-being, enhanced cognitive capacities, more knowledge and understanding, unlimited opportunity for personal growth beyond our current biological limits, better relationships, an unbounded potential for spiritual, moral and intellectual development.
もっと実現する価値のあるものはないでしょうか? そう考えてみると 色々な方法があることは明白だと思うのです 単にいやなことを取り除くだけではなく 前向きなことを加えることにより 物事は変えられるのです 少なくとも私の欲しいものリストに並ぶのは より健康にもっと長生きすること より充実した人生 認知能力の向上 更なる知識と理解 今の生物学上の限界を越えて 無限に成長する機会、より良い人間関係 精神的、道徳的、知的に 限りなく成長できる可能性
If we want to achieve this, what, in the world, would have to change? And this is the answer -- we would have to change. Not just the world around us, but we, ourselves. Not just the way we think about the world, but the way we are -- our very biology. Human nature would have to change. Now, when we think about changing human nature, the first thing that comes to mind are these human modification technologies -- growth hormone therapy, cosmetic surgery, stimulants like Ritalin, Adderall, anti-depressants, anabolic steroids, artificial hearts. It's a pretty pathetic list. They do great things for a few people who suffer from some specific condition, but for most people, they don't really transform what it is to be human. And they also all seem a little bit -- most people have this instinct that, well, sure, there needs to be anti-depressants for the really depressed people. But there's a kind of queasiness that these are unnatural in some way.
私達がこれらを実現するには 何を変えなくてはならないでしょうか? 答えを言います 私達自身が変わらなくてはならないのです 私達を取り囲む世界だけではなく 私達自身もです 私達が世界をどう思うかだけではなく 私達自身の生物的在り方もです 人の在り方を変えなくてはならないのです さて 人類の在り方を変えようとするときに まず思い浮かぶのは 次のような人間改造技術です 成長ホルモン療法、美容整形 リタリンやアデラルのような精神刺激薬、抗うつ剤 筋肉増強剤、人工心臓 実にみじめなリストです これらは ごく一部の人々にとっては 大変役立つものです ある特定の症状に苦しむ人々にとって しかし 大半の人々にとっては 人間らしく生きていくための役には立ちません そして これら全てに対して ほとんどの人は直感的に違和感を覚えるでしょう 確かに 重いうつ病の治療には抗うつ剤が必要なのですが 何かが間違っているような 不自然な感じがします
It's worth recalling that there are a lot of other modification technologies and enhancement technologies that we use. We have skin enhancements, clothing. As far as I can see, all of you are users of this enhancement technology in this room, so that's a great thing. Mood modifiers have been used from time immemorial -- caffeine, alcohol, nicotine, immune system enhancement, vision enhancement, anesthetics -- we take that very much for granted, but just think about how great progress that is -- like, having an operation before anesthetics was not fun. Contraceptives, cosmetics and brain reprogramming techniques -- that sounds ominous,
そんなものに頼らなくても 私達は既に多くの 改造や改良の技術を使っています 例えば 皮膚を機能拡張したものは 衣服です 私が見る限り この会場にいらっしゃる全員が この改良技術のユーザーですね すばらしいことです 気分を変えるものは 太古の昔から使われてきました カフェイン、アルコール、ニコチン、免疫力の向上 視力の向上、麻酔など 私達はこれらを当たり前のことと思っていますが 実に素晴らしい進化なのです 例えば 麻酔がなかった時代の手術を考えてみて下さい 避妊薬、化粧品、思考回路を書き換えるテクニック と言うと不気味な感じがするかもしれませんが
but the distinction between what is a technology -- a gadget would be the archetype -- and other ways of changing and rewriting human nature is quite subtle. So if you think about what it means to learn arithmetic or to learn to read, you're actually, literally rewriting your own brain. You're changing the microstructure of your brain as you go along. So in a broad sense, we don't need to think about technology as only little gadgets, like these things here, but even institutions and techniques, psychological methods and so forth. Forms of organization can have a profound impact on human nature.
技術 ―典型的には道具などです― と 人間の在り方を変える他の方法との違いは 実に曖昧なものです 例えば 算数や読み書きを学ぶということは 実に 文字通り 脳を改造するということなのです 学ぶにつれ 脳の微細な構造が変化していきます つまり大きな意味では 技術というのは何も こんな機器だけをさすのではないのです 習慣、テクニック、心理的手法 なども含めて 技術と呼べるのです 組織の在り方も 人間性に大きな影響力を持っています
Looking ahead, there is a range of technologies that are almost certain to be developed sooner or later. We are very ignorant about what the time scale for these things are, but they all are consistent with everything we know about physical laws, laws of chemistry, etc. It's possible to assume, setting aside a possibility of catastrophe, that sooner or later we will develop all of these. And even just a couple of these would be enough to transform the human condition.
将来を見通すと 遅かれ早かれ これらの技術が開発されることは ほぼ確実です 私達は様々な技術が開発される時間軸に無頓着ですが 全ての技術は既存の知識 物理や化学の法則に基づいています 人類絶滅の可能性を別にすれば 遅かれ早かれ これら全てを開発できると 想定できます これらの技術のうち ごく一部でも実現されれば 人間の在り方は変わってしまうでしょう
So let's look at some of the dimensions of human nature that seem to leave room for improvement. Health span is a big and urgent thing, because if you're not alive, then all the other things will be to little avail. Intellectual capacity -- let's take that box, which falls into a lot of different sub-categories: memory, concentration, mental energy, intelligence, empathy. These are really great things. Part of the reason why we value these traits is that they make us better at competing with other people -- they're positional goods. But part of the reason -- and that's the reason why we have ethical ground for pursuing these -- is that they're also intrinsically valuable. It's just better to be able to understand more of the world around you and the people that you are communicating with, and to remember what you have learned. Modalities and special faculties. Now, the human mind is not a single unitary information processor, but it has a lot of different, special, evolved modules that do specific things for us. If you think about what we normally take as giving life a lot of its meaning -- music, humor, eroticism, spirituality, aesthetics, nurturing and caring, gossip, chatting with people --
では 人間の在り方として改善する余地のある 部分に着目してみましょう 健康寿命は重要かつ喫緊の課題です 生きていなければ 他のあらゆることは無用になります 知的な能力の囲みを見てみましょう その中には多くの項目が並びます 記憶力、集中力、精神力、理解力、共感力 これらは素晴らしいものです 私達がこれらに重きを置く理由は ひとつには 他者との競争力につながるからです これらは他者との相対的な位置関係に影響します 他の理由は 私達がこれらを倫理的に追求する理由なのですが これらが本質的に価値あるものだということです 世の中のことや自分と関わりを持つ人々のことを より深く理解したり 学んだことを忘れないように できた方が良いでしょう 感覚や特定の能力についてお話しましょう さて 人間の脳は単一にまとまった情報処理装置 ではありません ある役割に特化および進化した多くのモジュールで 構成され 機能しています 私達が人生に多くの意味をもたらすと思っているものを 考えてみて下さい 音楽、ユーモア、エロティシズム、信仰、美学 養育、思いやり、うわさ話、おしゃべり
all of these, very likely, are enabled by a special circuitry that we humans have, but that you could have another intelligent life form that lacks these. We're just lucky that we have the requisite neural machinery to process music and to appreciate it and enjoy it. All of these would enable, in principle -- be amenable to enhancement. Some people have a better musical ability and ability to appreciate music than others have. It's also interesting to think about what other things are -- so if these all enabled great values, why should we think that evolution has happened to provide us with all the modalities we would need to engage with other values that there might be?
これら全ては 人間の脳に備わっている 特定の回路によるものと考えられます 一方で これらの欠落した知的生活を営むこともできます とても幸運なことに 私達の脳には音楽を鑑賞し 楽しめるよう処理してくれる機能が備わっています 音楽に関する能力は 原則として向上できるものです より優れた音楽的才能を持つ人々は 他の人より音楽を楽しむことができます 他のことも考えてみると面白いものです これらが全て 素晴らしい価値に結びつくものだとしたら 人類の進化の過程で 他にも存在しうる価値を 私達が認識できるよう知覚が備わったのは なぜなのでしょうか
Imagine a species that just didn't have this neural machinery for processing music. And they would just stare at us with bafflement when we spend time listening to a beautiful performance, like the one we just heard -- because of people making stupid movements, and they would be really irritated and wouldn't see what we were up to. But maybe they have another faculty, something else that would seem equally irrational to us, but they actually tap into some great possible value there. But we are just literally deaf to that kind of value. So we could think of adding on different, new sensory capacities and mental faculties. Bodily functionality and morphology and affective self-control. Greater subjective well-being. Be able to switch between relaxation and activity -- being able to go slow when you need to do that, and to speed up. Able to switch back and forth more easily would be a neat thing to be able to do -- easier to achieve the flow state, when you're totally immersed in something you are doing. Conscientiousness and sympathy. The ability to -- it's another interesting application that would have large social ramification, perhaps. If you could actually choose to preserve your romantic attachments to one person, undiminished through time, so that wouldn't have to -- love would never have to fade if you didn't want it to. That's probably not all that difficult. It might just be a simple hormone or something that could do this.
音楽を処理する機能が脳に備わっていない 種が存在すると過程してみましょう 彼らは私達を見て困惑するでしょうね 私達が つい先ほどの演奏のような 美しい音楽に耳を傾ける姿を見て 奇妙な動きをするものだと 困惑するでしょう そして 私達が何をしているのか理解できず とてもいらいらするでしょう 一方で 彼らには別の能力が備わっているかもしれません それは 彼らが音楽を解さないのと同様に 私達には不可解に思える能力なのでしょう それは 彼らにとっては大変に有意義な価値を 味わう能力なのです しかし 私達はそのような 自分の理解できない価値を まったく認識できません そこで 私達は異なった 新しい知覚や思考力を加えることが考えられます 身体機能や形態、感情の自己制御 より主観的な満足感 リラックス状態と活発な状態の切り替えができること 必要に応じて減速したり加速したりできること より簡単に前後の切り替えができること そうできたらいいですね 何かに没頭しているときに それをスムーズに出来る状態に早く入れること 誠実さと思いやり これもまた興味深い応用で おそらく大きな社会的影響があるでしょう もし ある人に対する恋愛感情を自らの意志で ずっと消えてしまわないよう選択できるとしたら 自分で終わりにしようと思わない限り 愛情が色あせることはありません それは特別難しいことでもないように思います 簡単なホルモンか何かで実現できそうなことです
It's been done in voles. You can engineer a prairie vole to become monogamous when it's naturally polygamous. It's just a single gene. Might be more complicated in humans, but perhaps not that much. This is the last picture that I want to -- now we've got to use the laser pointer. A possible mode of being here would be a way of life -- a way of being, experiencing, thinking, seeing, interacting with the world. Down here in this little corner, here, we have the little sub-space of this larger space that is accessible to human beings -- beings with our biological capacities. It's a part of the space that's accessible to animals; since we are animals, we are a subset of that.
ハタネズミの実験で既に成功しています 元来 一夫多妻のプレイリーハタネズミを 一夫一妻にすることも可能です ある1つの遺伝子をいじるだけでいいのです 人間では多少複雑かもしれませんが おそらく さほど大きな違いはないでしょう こちらが最後にお見せしたいスライドです レーザーポインターを使いましょう 存在の仕方の可能性をここに示しています 生き方、在り方、経験すること、考えること、見ること、 世界との関わり この右下角の小さな領域が この大きな領域の中で 私達人間の生物学的な 能力をもって手の届く範囲です その領域は 動物の領域に含まれます 人間も動物ですので 人間の領域は 動物の領域の範囲内なのです
And then you can imagine some enhancements of human capacities. There would be different modes of being you could experience if you were able to stay alive for, say, 200 years. Then you could live sorts of lives and accumulate wisdoms that are just not possible for humans as we currently are. So then, you move off to this larger sphere of "human +," and you could continue that process and eventually explore a lot of this larger space of possible modes of being.
ここで 人間の能力が向上したらどうなるか 考えてみましょう もし 例えば後200年生きられるとしたら 今とは違った生き方 在り方を体験することができるでしょう そうすれば 現在の人類にとって不可能な 生き方をして 知識を蓄積することができるでしょう そうなれば この図で「人類プラス」と現している より大きな領域に進出できます そして そのプロセスを繰り返しながら最終的に この大きな あらゆる存在の仕方の可能性を 探求できるでしょう
Now, why is that a good thing to do? Well, we know already that in this little human circle there, there are these enormously wonderful and worthwhile modes of being -- human life at its best is wonderful. We have no reason to believe that within this much, much larger space there would not also be extremely worthwhile modes of being, perhaps ones that would be way beyond our wildest ability even to imagine or dream about. And so, to fix this third problem, I think we need -- slowly, carefully, with ethical wisdom and constraint -- develop the means that enable us to go out in this larger space and explore it and find the great values that might hide there. Thanks.
さて なぜこうすることが良いのでしょうか 私達は既に この小さな人間の領域において 大変素晴らしい 価値ある生き方があることを 上手くいっているとき人生は素晴らしいことを 知っています ここに示した 人間の領域よりももっと大きな領域には きっと非常に価値ある生き方があるでしょう おそらくそれは 私達の想像や夢を はるかに越えるものでしょう 結論として この第3の問題を解決するには 時間をかけて 注意深く 倫理を重んじ 制御しながら この大きな領域に進出探索する方法を開発し そこに眠る素晴らしい価値を見出すことだと思います ありがとうございました