So, there's about seven and a half billion of us. The World Health Organization tells us that 300 million of us are depressed, and about 800,000 people take their lives every year. A tiny subset of them choose a profoundly nihilistic route, which is they die in the act of killing as many people as possible. These are some famous recent examples. And here's a less famous one. It happened about nine weeks ago. If you don't remember it, it's because there's a lot of this going on. Wikipedia just last year counted 323 mass shootings in my home country, the United States. Not all of those shooters were suicidal, not all of them were maximizing their death tolls, but many, many were.
世界には約75億人の人間がいます 世界保健機関によると 3 億人がうつを患っていて 毎年約80万人が自らの命を絶つそうです そのうちほんの一部の人たちは できる限り多くの人を殺して命を絶つという とても虚無的な道を選びます これは良く知られている最近の事例です こちらはあまり知られていない事例で 9週間ほど前に起きました 覚えていないとしたら 同じようなことが 沢山起きているからでしょう ウィキペディアによると 昨年 私の母国 アメリカ国内で 323件の銃乱射事件が起こりました 銃撃犯が皆 自殺的であった わけではないし 皆が死者数を最大化しようとした わけでもありません でも大半はそうでした
An important question becomes: What limits do these people have? Take the Vegas shooter. He slaughtered 58 people. Did he stop there because he'd had enough? No, and we know this because he shot and injured another 422 people who he surely would have preferred to kill. We have no reason to think he would have stopped at 4,200. In fact, with somebody this nihilistic, he may well have gladly killed us all. We don't know. What we do know is this: when suicidal murderers really go all in, technology is the force multiplier.
ここで重要な疑問がわきます 彼らを制限するものは何でしょう ラスベガス銃撃犯を 例に取りましょう 彼は58人を虐殺しました 殺すのをやめたのは もう十分だと思ったからでしょうか 違います その証拠に さらに422人を撃って負傷させており 本当は殺害したかったことでしょう 4200人でやめただろうと 考える根拠もありません 実際これだけ虚無的な人であれば 喜んで人類を皆殺しにしたかもしれません 私たちにはわかりません しかし わかることもあります 自殺念慮を持つ殺人者が 全力を出したら 科学技術は増幅装置としての役割を 果たすということです
Here's an example. Several years back, there was a rash of 10 mass school attacks in China carried out with things like knives and hammers and cleavers, because guns are really hard to get there. By macabre coincidence, this last attack occurred just hours before the massacre in Newtown, Connecticut. But that one American attack killed roughly the same number of victims as the 10 Chinese attacks combined. So we can fairly say, knife: terrible; gun: way worse. And airplane: massively worse, as pilot Andreas Lubitz showed when he forced 149 people to join him in his suicide, smashing a plane into the French Alps.
一例をあげましょう 数年前 中国で10件の学校襲撃事件が 続いて起こりました 中国で銃を手に入れるのは難しいので ナイフやハンマー、包丁などが 用いられました 気味の悪い偶然ですが 最後の襲撃が起きたのは コネチカット州ニュータウンでの大量殺人の ほんの数時間前で そのアメリカの襲撃事件 一件の犠牲者数は 中国の襲撃事件10件を合わせたのと 同じくらいだったのです こう言えるでしょう ナイフは恐ろしいが 銃ははるかに酷く 飛行機は さらにとてつもなく酷いと 操縦士のアンドレアス・ルビッツが 149人を自殺の道連れにし フランス・アルプスに飛行機を 墜落させた件が示すようにです
And there are other examples of this. And I'm afraid there are far more deadly weapons in our near future than airplanes, ones not made of metal. So let's consider the apocalyptic dynamics that will ensue if suicidal mass murder hitches a ride on a rapidly advancing field that for the most part holds boundless promise for society. Somewhere out there in the world, there's a tiny group of people who would attempt, however ineptly, to kill us all if they could just figure out how. The Vegas shooter may or may not have been one of them, but with seven and a half billion of us, this is a nonzero population. There's plenty of suicidal nihilists out there. We've already seen that. There's people with severe mood disorders that they can't even control. There are people who have just suffered deranging traumas, etc. etc. As for the corollary group, its size was simply zero forever until the Cold War, when suddenly, the leaders of two global alliances attained the ability to blow up the world.
同じような例は他にもあります そして 飛行機よりも凶悪な武器が 近い将来に現れることを恐れています 金属製ではないあるものです ではここで 基本的には社会に限りない 可能性を提供する 急発展中の学問を 自殺的な大量殺人犯が利用した際に起こる 世界が滅亡に向かう展開を考えてみましょう この世のどこかのほんの一部の人々は いかなる方法であれ やり方さえわかれば 私たちを皆殺しにしようとすることでしょう ラスベガス銃撃犯がその一人だったかは わかりませんが 75億の人間が存在するからには そういう人はゼロではないでしょう 自殺念慮を持つ虚無主義者はたくさんいて そのことは既に見てきました 自身でも制御できない気分障害を持つ人々 精神的混乱を伴うトラウマに 苦められたばかりの人々が沢山います 人類を皆殺しにできるような人は 冷戦前までは皆無でしたが 冷戦下の2つの同盟のリーダーが 世界を吹き飛ばす力を 突如手に入れました
The number of people with actual doomsday buttons has stayed fairly stable since then. But I'm afraid it's about to grow, and not just to three. This is going off the charts. I mean, it's going to look like a tech business plan.
人類を滅亡させるボタンを持つ人の数は その後あまり変わっていませんが この人数がもっと増えるのを 私は恐れています 2人から3人になるというのでなく このグラフは急成長するでしょう テクノロジー企業の ビジネスプランのように
(Laughter)
(笑)
And the reason is, we're in the era of exponential technologies, which routinely take eternal impossibilities and make them the actual superpowers of one or two living geniuses and -- this is the big part -- then diffuse those powers to more or less everybody.
その理由は 私たちがいるのは 指数関数的に進歩する科学技術の時代であり ずっと不可能だったことを 少数の天才の スーパーパワーが実現し さらに重要なことに その力が万人に広められる そういう時代だからです
Now, here's a benign example. If you wanted to play checkers with a computer in 1952, you literally had to be that guy, then commandeer one of the world's 19 copies of that computer, then used your Nobel-adjacent brain to teach it checkers. That was the bar. Today, you just need to know someone who knows someone who owns a telephone, because computing is an exponential technology.
無害な例を挙げましょう 1952年にコンピューターで チェッカーをやりたければ この写真の人物になり 世界に19台しかなかった あのコンピューターを手に入れ ノーベル賞級の頭脳で それにチェッカーを教えねばなりませんでした それがハードルだったのです 今では知り合いの知り合いが 電話を持ってさえいれば十分です コンピューティングは 指数関数的に進歩する技術だからです
So is synthetic biology, which I'll now refer to as "synbio." And in 2011, a couple of researchers did something every bit as ingenious and unprecedented as the checkers trick with H5N1 flu. This is a strain that kills up to 60 percent of the people it infects, more than Ebola. But it is so uncontagious that it's killed fewer than 50 people since 2015. So these researchers edited H5N1's genome and made it every bit as deadly, but also wildly contagious. The news arm of one of the world's top two scientific journals said if this thing got out, it would likely cause a pandemic with perhaps millions of deaths. And Dr. Paul Keim said he could not think of an organism as scary as this, which is the last thing I personally want to hear from the Chairman of the National Science Advisory Board on Biosecurity. And by the way, Dr. Keim also said this --
合成生物学もそれは同じです 2011年に数名の研究者が チェッカーのプログラムとあらゆる点で 同じくらい巧妙で前例のないことを H5N1亜型インフルエンザを 用いて成し遂げました H5N1は 感染した人の 最悪60%が死に至るという エボラよりも高い致死率のウイルスですが 伝染性はとても低いため 2015年以降の死者は50人以下です そこで研究者らはH5N1のゲノムを編集し 以前と同様に非常に致命的ながら ずっと伝染性の高いものを作りました 世界2大科学雑誌の1つの ニュース部門は もしこのウイルスが広まったら 何百万人もの死者が出る 世界的流行が起こるだろうと述べました ポール・カイム博士は 「これほど恐ろしい生物は 考えられない」と述べています 米国バイオセキュリティ 科学諮問委員会議長の口から 最も聞きたくない言葉です 博士はこうも言っています
["I don't think anthrax is scary at all compared to this."]
「炭疽菌はこれに比べると 全く恐ろしくないと思う」
And he's also one of these.
炭疽菌の専門家ですからね 彼は
[Anthrax expert] (Laughter)
(笑)
Now, the good news about the 2011 biohack is that the people who did it didn't mean us any harm. They're virologists. They believed they were advancing science. The bad news is that technology does not freeze in place, and over the next few decades, their feat will become trivially easy. In fact, it's already way easier, because as we learned yesterday morning, just two years after they did their work, the CRISPR system was harnessed for genome editing. This was a radical breakthrough that makes gene editing massively easier -- so easy that CRISPR is now taught in high schools. And this stuff is moving quicker than computing. That slow, stodgy white line up there? That's Moore's law. That shows us how quickly computing is getting cheaper. That steep, crazy-fun green line, that shows us how quickly genetic sequencing is getting cheaper. Now, gene editing and synthesis and sequencing, they're different disciplines, but they're tightly related. And they're all moving in these headlong rates. And the keys to the kingdom are these tiny, tiny data files. That is an excerpt of H5N1's genome. The whole thing can fit on just a few pages. And yeah, don't worry, you can Google this as soon as you get home. It's all over the internet, right? And the part that made it contagious could well fit on a single Post-it note. And once a genius makes a data file, any idiot can copy it, distribute it worldwide or print it. And I don't just mean print it on this, but soon enough, on this.
この2011年のバイオハッキングに関する 嬉しい知らせは 実行者たちに 他人に害をなす考えは 少しもなかったことです 彼らはウイルス学者で 科学の進歩に貢献していると考えていました 悪い知らせは 技術はその場にとどまらないことで 今後数十年のうちに 彼らのしたことは いとも簡単に 行えるようになるでしょう 実際に 昨日の朝に聞いたように その後2年でずっと簡単になっているのです CRISPRシステムによる ゲノム編集です これはゲノム編集を格段に簡単にする 画期的な突破口となりました とても簡単で 今では高校で CRISPRを教えているくらいです そしてこの技術はコンピューティングよりも 早く進歩を遂げています 上に見える のろのろした退屈な 白い線は何でしょう ムーアの法則です コンピューティングのコストが 下がる速さを示しています あの急で むちゃくちゃ楽しい緑の線は DNA解読のコストが 下がる速さを示しています そして遺伝子編集、合成 塩基配列の解読は異なる技術ですが 互いにとても関連していて すべて猛烈な速さで進展しています そして世界を滅ぼす力への鍵は このちっぽけなデータファイルです これはH5N1のゲノムを抜粋したものです 数ページにすべてが収まります メモしなくて大丈夫ですよ ググればすぐ見つかりますから ネット上の至る所にあります そして伝染性を高めた部分は 一枚の付箋に収まります 天才がデータファイルを一度作ったら どんな馬鹿者でもコピーしたり 世界中に広めたり 印刷したりできます これ(紙)に印刷というだけではありません 近い将来はこちら(DNA)にも 印刷できるようになります
So let's imagine a scenario. Let's say it's 2026, to pick an arbitrary year, and a brilliant virologist, hoping to advance science and better understand pandemics, designs a new bug. It's as contagious as chicken pox, it's as deadly as Ebola, and it incubates for months and months before causing an outbreak, so the whole world can be infected before the first sign of trouble. Then, her university gets hacked. And of course, this is not science fiction. In fact, just one recent US indictment documents the hacking of over 300 universities. So that file with the bug's genome on it spreads to the internet's dark corners. And once a file is out there, it never comes back -- just ask anybody who runs a movie studio or a music label. So now maybe in 2026, it would take a true genius like our virologist to make the actual living critter, but 15 years later, it may just take a DNA printer you can find at any high school. And if not? Give it a couple of decades.
シナリオを想定してみましょう 適当に 2026年ということにしますが 有能なウイルス学者が 科学を発展させ 病気の大流行について 知識を深めようと 新たなウイルスを設計します 水痘のように高い伝染力を持ち エボラ出血熱のように致命的で 潜伏期間が何か月もあるため 問題の兆候が現れる前に 世界中の人々に感染が広まります その後 ウイルス学者の大学が ハッキングされます これはSFではなく 実際に 最近のアメリカの ある起訴状には 300以上の大学への ハッキングが記されています ウイルスのゲノムが保存されたファイルが インターネットの闇の世界に広まります 情報ファイルが一度世の中に出たら 二度と収拾がつきません 映画会社やレコード会社をやっている人に 尋ねてみればわかります たぶん2026年には 合成生物を生み出すには くだんのウイルス学者のような 天才が必要でしょうが 15年後に必要なのは どこの高校にもある DNAプリンターだけかもしれません 15年で実現しなくとも 何十年か経てばそうなるでしょう
So, a quick aside: Remember this slide here? Turn your attention to these two words. If somebody tries this and is only 0.1 percent effective, eight million people die. That's 2,500 9/11s. Civilization would survive, but it would be permanently disfigured. So this means we need to be concerned about anybody who has the faintest shot on goal, not just geniuses. So today, there's a tiny handful of geniuses who probably could make a doomsday bug that's .1-percent effective and maybe even a little bit more. They tend to be stable and successful and so not part of this group. So I guess I'm sorta kinda barely OK-ish with that. But what about after technology improves and diffuses and thousands of life science grad students are enabled? Are every single one of them going to be perfectly stable? Or how about a few years after that, where every stress-ridden premed is fully enabled? At some point in that time frame, these circles are going to intersect, because we're now starting to talk about hundreds of thousands of people throughout the world. And they recently included that guy who dressed up like the Joker and shot 12 people to death at a Batman premiere. That was a neuroscience PhD student with an NIH grant.
少し余談です こちらのスライドを覚えていますか この言葉に注目してください [もしかしたら] もし誰かが人類殲滅を試みて 0.1%の効果しか発揮できなかったとしても 800万人の死者が出ます アメリカ同時多発テロ 2500回分です 文明は生き延びるでしょうが 損害は永久的でしょう ここで私たちが心配すべきは 天才だけではなく 目的を多少とも達成できそうな すべての人です 現在 人類の0.1%でも 殺せるような 殺人ウイルスを作れるのは ほんの一握りの天才です 大抵の場合 彼らは精神的に安定した 社会的成功者なので 大量殺戮者予備軍ではなく これについて私は かろうじて大丈夫かな という感じです しかし技術が進歩し 拡散して 何千という生命科学の大学院生が この能力を得た後はどうでしょうか その一人一人が皆 精神的に まったく安定しているでしょうか? もしくはその数年後 ストレスだらけの医学部予科の学生が みんなその能力を持った時は? どこかの時点で これらの円は交わるでしょう なぜなら対象となる人は 世界中の何十万人にも及ぶからです この集団に最近加わったのは バットマンのプレミア上映会で ジョーカーのような恰好をして 12人を撃ち殺した男です 神経科学の博士課程学生で 国立衛生研究所の助成を 受けていました
OK, plot twist: I think we can actually survive this one if we start focusing on it now. And I say this, having spent countless hours interviewing global leaders in synbio and also researching their work for science podcasts I create. I have come to fear their work, in case I haven't gotten that out there yet --
ここで どんでん返しです 今から注目し始めれば お話ししたような 危険は生き延びられると思います 科学ポッドキャスト制作のために 多くの時間を費やして 世界中の合成生物学の先駆者にインタビューし その研究について調査をした上で そう言っているのです 彼らの研究には恐怖を覚えました まだ伝わってなかったかもしれませんが―
(Laughter)
(笑)
but more than that, to revere its potential. This stuff will cure cancer, heal our environment and stop our cruel treatment of other creatures. So how do we get all this without, you know, annihilating ourselves?
でもそれ以上に 合成生物学の可能性に 打たれました がんを完治させたり 環境を癒したり 生き物の残酷な扱いを 終わらせたりできるのです 人類を全滅させずにそれを達成するには どうすればよいのでしょうか
First thing: like it or not, synbio is here, so let's embrace the technology. If we do a tech ban, that would only hand the wheel to bad actors. Unlike nuclear programs, biology can be practiced invisibly. Massive Soviet cheating on bioweapons treaties made that very clear, as does every illegal drug lab in the world.
まず第一に 好きか嫌いかに関わらず 合成生物学は実在します 技術を受け入れましょう 技術の禁止は 舵を悪者たちの手に渡してしまうだけです 核開発とは違い 生物学は見えないところで 行えます ソ連の 大々的な生物兵器禁止条約違反が その証拠になるし 世界中にある 違法な麻薬製造所も同様です
Secondly, enlist the experts. Let's sign them up and make more of them. For every million and one bioengineers we have, at least a million of them are going to be on our side. I mean, Al Capone would be on our side in this one. The bar to being a good guy is just so low. And massive numerical advantages do matter, even when a single bad guy can inflict grievous harm, because among many other things, they allow us to exploit the hell out of this: we have years and hopefully decades to prepare and prevent. The first person to try something awful -- and there will be somebody -- may not even be born yet.
第二に 専門家を仲間に入れましょう 登録申請をさせ 数も増やしましょう 100万と1人の生物工学研究者がいたら 少なくとも100万人は こちらの味方にしましょう アル・カポネだって この件では 私たちの味方に付くはずです ここで「いいやつ」になる条件は それほど低いのです 大きな数的優位は重要です たった一人の悪者に重大な危害が 与えられるとしても 理由は沢山ありますが 時間的優位を最大限に活用できるからです 準備と予防のため使える時間が 数年 うまくいけば数十年あります 酷いことを試す最初の人間は きっと現れるでしょうが まだ生まれてすら いないかもしれません
Next, this needs to be an effort that spans society, and all of you need to be a part of it, because we cannot ask a tiny group of experts to be responsible for both containing and exploiting synthetic biology, because we already tried that with the financial system, and our stewards became massively corrupted as they figured out how they could cut corners, inflict massive, massive risks on the rest of us and privatize the gains, becoming repulsively wealthy while they stuck us with the $22 trillion bill.
次に社会全体に及ぶ努力が必要で みんなが加わらなければいけません なぜなら数少ない専門家らに 合成生物学の統制と活用の両方の責任を 任せるわけにはいかないからです 金融システムでこの方法を試しましたが 私たちの世話役は とてつもなく不道徳になり 抜け道を見つけ 他の人たちに 莫大なリスクを負わせ 利益を私物化し 胸くそ悪くなるほど 裕福になる一方で 22兆ドルの請求書を 私たちに押し付けたのです
And more recently --
より最近には ―
(Applause)
(拍手)
Are you the ones who have gotten the thank-you letters? I'm still waiting for mine. I just figured they were too busy to be grateful.
皆さん礼状はもらいましたか? 私はまだです 彼らは感謝する暇もないくらい 忙しいのでしょう
And much more recently, online privacy started looming as a huge issue, and we basically outsourced it. And once again: privatized gains, socialized losses. Is anybody else sick of this pattern?
より最近には オンラインプライバシーが 大きな問題となってきました 私たちはプライバシーを 他人任せにし ここでも同じように 利益の私物化と社会損失が起きました このパターンにうんざりしているのは 私だけでしょうか?
(Applause)
(拍手)
So we need a more inclusive way to safeguard our prosperity, our privacy and soon, our lives. So how do we do all of this?
私たちの豊かさや プライバシーや 近い将来には命を守るために もっと排他的でない方法が必要です どうすればできるでしょう?
Well, when bodies fight pathogens, they use ingenious immune systems, which are very complex and multilayered. Why don't we build one of these for the whole damn ecosystem? There's a year of TED Talks that could be given on this first critical layer. So these are just a couple of many great ideas that are out there.
人体が病原体と戦う際 巧妙な免疫システムを使います とても複雑で多層的なものです 同様の仕組みを生態系全体に対して 作ってはどうでしょう 第一の「医学」層については 一年分のTEDトークができるでしょう 以下は沢山ある素晴らしい考えの ほんの一握りです
Some R and D muscle could take the very primitive pathogen sensors that we currently have and put them on a very steep price performance curve that would quickly become ingenious and networked and gradually as widespread as smoke detectors and even smartphones. On a very related note: vaccines have all kinds of problems when it comes to manufacturing and distribution, and once they're made, they can't adapt to new threats or mutations. We need an agile biomanufacturing base extending into every single pharmacy and maybe even our homes. Printer technology for vaccines and medicines is within reach if we prioritize it.
研究開発機関が 今ある原始的な病原体センサー技術を 急な価格性能曲線に乗せることで すぐにでも 巧妙で ネットに繋がったものへと変え 煙感知器やスマートフォンと 同じくらい広まるでしょう とても関連の深い話として ワクチンには 製造や配給に関して 様々な問題があります 一度作られたら 新たな脅威や変異に 適用することはできません そこで敏速なバイオ製造の基盤を 個々の薬局や 家庭にまで 普及させる必要があります ワクチンと薬の印刷技術は 優先さえすれば すぐ実現できるところまできています
Next, mental health. Many people who commit suicidal mass murder suffer from crippling, treatment-resistant depression or PTSD. We need noble researchers like Rick Doblin working on this, but we also need the selfish jerks who are way more numerous to appreciate the fact that acute suffering will soon endanger all of us, not just those afflicted. Those jerks will then join us and Al Capone in fighting this condition. Third, each and every one of us can be and should be a white blood cell in this immune system. Suicidal mass murderers can be despicable, yes, but they're also terribly broken and sad people, and those of us who aren't need to do what we can to make sure nobody goes unloved.
次にメンタルヘルスです 自殺的な大量殺人事件を起こす人の多くは 生活に支障をきたす治療抵抗性のうつや PTSDに苦しんでいます リック・ドブリンのような気高い研究者が この問題に取り組むことが必要ですが 格段に数の多い 利己的な くそ野郎どもにも 当事者の切迫した苦しみは 追々 私たち皆を危険にさらすという事実を 認識してもらう必要があります くそ野郎どもも 私たちやアル・カポネと一緒に 精神障害との戦いに 加わることでしょう 第三に この免疫システムにおいては 私たちの一人一人に 白血球になる可能性と 必要性があります 自殺的な大量殺人犯は 卑劣であるかもしれませんが 彼らは同時に 失意と悲しみにあふれた人々で そうでない我々は 愛されぬ者が誰もいなくなるよう 全力を尽くさなければいけません
(Applause)
(拍手)
Next, we need to make fighting these dangers core to the discipline of synthetic biology. There are companies out there that at least claim they let their engineers spend 20 percent of their time doing whatever they want. What if those who hire bioengineers and become them give 20 percent of their time to building defenses for the common good? Not a bad idea, right?
次に このような危険との戦いを 合成生物学の分野の核に 位置づける必要があります 企業の中には 雇用している技術者に 20%の時間を好きに使わせている ところがあります もし生物工学の技術者を雇用する企業が そのような企業になり 20%の時間を公益を守るための開発に 使うようにしたらどうでしょう 悪い考えではないですよね
(Applause)
(拍手)
Then, finally: this won't be any fun. But we need to let our minds go to some very, very dark places, and thank you for letting me take you there this evening. We survived the Cold War because every one of us understood and respected the danger, in part, because we had spent decades telling ourselves terrifying ghost stories with names like "Dr. Strangelove" and "War Games." This is no time to remain calm. This is one of those rare times when it's incredibly productive to freak the hell out --
そして最後です 楽しい話題ではありませんが とても暗い場所にも 考えをめぐらす必要があります 今夜はそこに皆さんをお連れでき 幸いです 私たちは冷戦を生き延びました 理由は一人一人が危険を 理解し重んじたからです その一因には 何十年もの間 「博士の異常な愛情」や 「ウォー・ゲーム」のような 恐ろしい物語を 言い聞かせてきたことがあります 落ち着いている場合ではありません 取り乱すのが生産的である まれな状況の一つです
(Laughter)
(笑)
to come up with some ghost stories and use our fear as fuel to fight this danger.
恐ろしい物語を作り出して 恐れを 危険と戦うための 原動力にしましょう
Because, all these terrible scenarios I've painted -- they are not destiny. They're optional. The danger is still kind of distant. And that means it will only befall us if we allow it to.
なぜなら私がお話しした 恐ろしいシナリオは 宿命ではないからです 選択することができます 危険はどちらかと言えば まだ遠くにあります 危険が私たちを襲えるのは 私たちがそれを許した時だけです
Let's not.
そうさせないようにしましょう
Thank you very much for listening.
ご清聴ありがとうございました
(Applause)
(拍手)