What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
مهمترین قرن در تاریخ بشریت کدام است برخی ممکن است اذعان کنند که دوران یک لشکرکشی طولانی است مانند لشکرکشی اسکندر بزرگ ۳۰۰ سال پیش از میلاد مسیح که مرزهای فرهنگی سیاسی را تغییر داد. برخی دیگر ممکن است ظهور یک دین بزرگ را بیان کنند. مانند ظهور اسلام در قرن هفتم میلادی که ارزشهای انسانی را مدون کرد و در دنیا گسترش داد. یا شاید دوران انقلاب صنعتی در قرن ۱۸ است که تجارت جهانی را تغییر داد و تعریف تازهای از رابطه انسان و کار را ارائه کرد. جواب هر چه که باشد به نظر میرسد، که تمامی قرنهای در رقابت برای جایگاه اول در زمان یک تغییر بزرگ بودهاند. زمانی که اعمال اجدادمان مسیر حرکت بشریت را برای قرنهای آتی تغییر داده است. پس اگر این معیار ما باشد، آیا ممکن است که هماکنون، همین قرن حاضر، مهمترین قرن تاکنون باشد؟
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
قرن ۲۱ام تا کنون نشان داده است که دوران رشد سریع تکنولوژی است. تلفنها و کامپیوترها سرعت زندگی را افزایش دادهاند. و احتمالا بشریت در نزدیکی توسعه یک تکنولوژی دگرگون کننده جدید مانند هوش مصنوعی پیشرفته است، که میتواند نحوه زندگی انسانها را به طور کامل تغییر دهد. در حالی که بسیاری از تکنولوژیهایی که هم اکنون در دسترس هستند، خطر بیسابقهای برای بقای بشریت ایجاد میکنند. این خطر انقراض گونه ما، یا تجربه نوعی فاجعه است، که برای همیشه توانایی انسانها برای رشد و نمو را محدود میکند. اختراع بمب اتم یکی از این خطرات بزرگ برای بقای بشریت بود، و از آن پس ما فقط احتمال انقراض خود را افزایش دادهایم. تخمین احتمال یک فروپاشی در بقای بشریت در این قرن بسیار دشوار است. حدسهای تقریبی احتمال یک فاجعه برای بقای بشریت بر اثر زمستان هستهای و تغییرات جوی را حدود ۰.۱ % و فراگیری یک بیماری به همان میزان مخرب را میزان وحشتناک ۳% پیشبینی کردهاند.
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
با توجه به این که هر کدام از این فجایع میتواند زندگی انسانها را پایان دهد، این ارقام، ارقام کمی نیستند. و ممکن است این قرن ظهور تکنولوژی جدیدی را شاهد باشد که خطرات بیشتری برای بقای بشریت ایجاد کند. متخصصان هوش مصنوعی تخمینهای گوناگونی در رابطه با زمان ایجاد شدن هوش مصنوعی کلی دارند. اما براساس برخی نظرسنجیها بسیاری براین باور هستند که زمان این پدیده قرن حاظر است. هم اکنون، ما گونههای نسبتا محدودی از هوش مصنوعی را در اختیار داریم، که طراحی شدهاند تا اعمال مشخصی مانند بازی شطرنج یا تشخیص چهره را انجام دهند. حتی هوشهای مصنوعی محدودی که با خلاقیت عمل میکنند محدود به تخصص خود هستند. اما هوش مصنوعی کلی، یا ای جی آیها، میتوانند سازگار شوند و هر تعداد فعالیت را انجام دهند، و به سرعت از همتایان انسانی خود پیشی بگیرند. حدسهای بسیار گوناگونی در رابطه با اینکه هوشهای مصنوعی کلی، و اشتراک زمین با یک گونه با ادراک دیگر به چه صورتی خواهند بود، وجود دارد. ای جی آیها ممکن است به ما در دستیابی اهدافمان کمک کنند، ما را بیاهمیت تلقی کنند، یا ما را به عنوان مانعی ببینند که میبایست به سرعت حذف شود. پس با دیدگاه خطر برای بقای انسان لازم است که ارزش های این تکنولوژی جدید با ارزشهای ما در یک راستا باشند. این یک چالش فیلسوفانه و مهندسی بسیار دشوار است، که نیازمند تفکر و دقت بسیار زیادی است. البته حتی اگر ما موفق شویم، باز ممکن است ای جی آی منجر به پیامد پیچیده دیگری شود.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
تصور کنید ای جی آی با احترام زیادی برای زندگی انسان و میلی به رفع تمامی مشکلات بشریت پدیدار شود ولی برای جلوگیری از تغییر جهت در باورهایش بهگونهای توسعه یابد که بر عقایدش پایبند باشد. چنان چه این ماشینها قدرت غالب بر روی زمین شوند، ارزشهای محض آن ممکن است مسلط شود و بشریت را در یک ایدئولوژی بسیار مقاوم در برابر تغییر محبوس کند. تاریخ به ما آموخته که هر قدر یک تمدن باور بر روشن فکری داشته باشد به ندرت به سطح استانداردهای اخلاقی نسلهای بعد میرسد. و اینگونه حبس ارزشها ممکن است به صورت دائمی رشد اخلاقی بشریت را محدود یا منحرف کند.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
تردیدهای بسیاری در رابطه با ای جی آی وجود دارد، و پیشبینی اینکه هرگونه خطر برای بقای بشریت در قرن آینده چگونه رخ خواهد داد، بسیار دشوار است. همچنین ممکن است که تهدیدات جدید و خطرناکتر خطرات حاضر را بیاثر کنند. اما حتی اگر نتوان به طور قطع قرن حاضر را مهمترین قرن تاریخ دانست، به نظر میرسد که تصمیمات ما ممکن است تاثیر عمدهای بر آینده بشریت داشته باشد. پس شاید همگی ما باید با دید تاثیر احتمالیمان بر آینده زندگی کنیم چون در حقیقت ممکن است این چنین باشد.