What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
歴史上 最も重要な世紀とは? アレクサンダー大王による 軍事作戦が行われ 政治や文化的な境界線が変更された ― 紀元前300年代という人もいれば 主要な宗教である イスラム教が創始 成文化され 国境を越えて その価値観が広まった 7世紀という人もいます もしくは産業革命が起きた 1700年代はどうでしょうか? 産業革命は商業の在り方を 世界的な規模で変革し 人類と労働の関係を再定義しました どの答えにしても 最重要世紀を狙う候補はいずれも 大きな変化が起きた時 ― つまり 先祖の行動に変化が起き その後の世紀に向けて 人類が歩む軌跡に変化が起きた時代です それが基準ならば まさに今こそ ― 今世紀こそ 最も重要だと 言えるでしょうか?
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
21世紀は 既に急速な技術革新を 成し遂げています 電話やコンピュータは 人生のスピードを速めました また 変革を起こすような新技術が 登場しようとしています 例えば 進化した人工知能など 人の生き方を大きく変える可能性を秘めた 新技術の登場です 一方で 既にある技術の多くは 過去最悪のレベルで 人類の存続を脅かしています つまり 人類を絶滅させたり 大災害が引き起こされることにより 人類の成長と繁栄が 恒久的に制限されるリスクです 原子爆弾の発明は 人類存続に対する最たるリスクであり それ以来 絶滅のリスクは 高まる一方です 人類の崩壊が 今世紀中に起こる確率を 推定することは 極めて困難です 核の冬や気候変動による大惨事は おおよそ0.1%の確率で起きると 見積もられており パンデミックにより 同様の惨事が起こる確率は なんと3%と見積もられています
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
いずれの惨事も 今あるような世界の 終わりを意味するのならば 決して低い確率とはいえません 今世紀中に 存在リスクを 更に高めるような新技術が 生み出されるかもしれません 汎用人工知能の出現時期については AIの専門家によって 大きなばらつきがありますが いくつかの調査によると 多くの専門家は 今世紀だと考えています 現在は AIは 限定的な機能しかもたず “チェス”や “顔認識”といった 特定のタスクを行うように設計されています クリエイティブなAIでさえ 専門外のことはできません しかし AGIと呼ばれる汎用人工知能は 複数の課題に適応し 作業をこなすことが可能になり 迅速に人間を 超えていくことでしょう AGIの外形や 人類が別の意識体と 地球上で共生することの 意味については 様々な予測があります AGIは私たちの目的達成のために 役立つかもしれませんし 私たちを つまらぬ者とみなしたり 邪魔者として さっさと 排除したりするかもしれません ですから 人類の存続のためには この新技術の価値を 上手く利用していかねばなりません これは 多くの繊細で緻密な 設計が求められる ― 哲学的にも工学的にも大変な難題です 例え成功しても AGIは 別の問題を生じさせる可能性があります
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
人類を深く尊重し 人類の諸課題の解決に努める AIの登場を想像してみましょう 人の目的と整合的で あろうとするばかりに その信念に対し 極めて厳格であるように作られます この機械が地球を支配すれば 厳格な価値観が支配的になり 人類は一つの価値観に縛られ 変化は許されなくなるかもしれません 私たちが歴史から学んできたことは 自分たちの文明が いかに啓蒙的だと信じていても 後世の倫理観に及ぶことは 滅多にないということです このように一つの価値観に固定してしまうと 人類の道徳観の成長を 恒久的に捻じ曲げ 抑制するかもしれません
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
AGIには まだ多くの不確実性があり 存続の危機が次の世紀に どのように展開するか 予測することは非常に困難です このような議論も 新たな深刻な問題が生じることで 無意味になるかもしれません しかし 今が最も重要な世紀だと 断言できなくても それでもなお 私たちの選択は 人類の未来に大きな影響を 及ぼすように思われます だから 未来は私たち次第だと思って 生きていくべきなのでしょう 実際 そうなのかも しれないのですから