ما هو أهم قرن في التاريخ البشري؟ البعض يتجادل على أنها فترة الحملات العسكرية المكثفة، مثل الاسكندر الأكبر في عام 300 قبل الميلاد، الذي أعاد تشكيل الحدود السياسية وكذلك الثقافية. والبعض يشير الى ظهور الديانة الرئيسية كالإسلام في القرن السابع، الذي تقنن ونشر القيم في هذه الحدود. أو ربما تكون الثورة الصناعية في القرن الثامن عشر التي غيرت حركة التجارة العالمية وأعادت تعريف الإنسانية بالعمل. ولكن مهما كانت الإجابة فيبدو أن أي قرن يتنافس علي المرتبة الأولى في لحظة تغير كبير - عندما قام أسلافنا بتغيير مسار الإنسانية لقرون عديدة قادمة. لذا إذا كان هذا في مقياسنا فهل من الممكن ذلك الآن هذا القرن -هل هو الأهم حتى الآن؟
What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
لقد أثبت القرن الحادي والعشرون بالفعل أنه فترة نمو تقني سريع. الهواتف وأجهزة الكمبيوتر سرعت من وتيرة الحياة. ونحن على الأرجح على وشك تطوير تقنيات تحويلية جديدة، مثل الذكاء الاصطناعي المتطور، يمكن أن يغير تماماً طريقة عيش الناس. في غضون ذلك، لدينا العديد من التقنيات بالفعل المساهمة في المستويات البشرية غير المسبوقة من المخاطر الوجودية - هذا هو خطر انقراض جنسنا البشري أو مواجهة نوع من الكوارث التي تحد بشكل دائم قدرة الإنسانية على النمو والازدهار. شكل اختراع القنبلة الذرية زيادة كبيرة في المخاطر الوجودية، ومنذ ذلك الحين لم نقم إلا بزيادة الاحتمالات ضدنا. من الصعب تقدير الاحتمالات لانهيار وجودي ممكن أن يحدث هذا القرن. إن التخمينات القاسية للغاية تفرض خطر كارثة وجودية بسبب الشتاء النووي وتغير المناخ عند حوالي 0.1 ٪، مع احتمالات حدوث جائحة يسبب نفس النوع من الانهيار بنسبة مخيفة 3٪.
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
بالنظر إلى أن أياً من هذه الكوارث يمكن أن يعني نهاية الحياة كما نعرفها، هذه ليست مجرد أرقام صغيرة، ومن الممكن أن يشهد هذا القرن صعود التقنيات الجديدة تقدم المزيد من المخاطر الوجودية. خبراء الذكاء الاصطناعي لديهم مجموعة واسعة من التقديرات المتعلقة عندما يظهر الذكاء الاصطناعي العام، لكن وفقاً لبعض الاستطلاعات، يعتقد الكثير أن ذلك قد يحدث هذا القرن. في الوقت الحالي، لدينا أشكال محدودة نسبياً من الذكاء الاصطناعي، المصممة للقيام بمهام محددة مثل لعب الشطرنج أو التعرف على الوجوه. حتى الذكاء الاصطناعي المحدود الذي يقوم بعمل إبداعي يقتصر على تخصصه الفردي. لكن الذكاء الاصطناعي العام، أو AGIs، سيكون قادراً على التكيف مع أي عدد من المهام وأداءها، يتفوقون بسرعة على نظرائهم من البشر. هناك مجموعة كبيرة ومتنوعة من التخمينات حول ما قد يكون عليه الذكاء الاصطناعي العام، وماذا يعني أن تشارك البشرية في الأرض مع كيان واعي آخر. قد تساعدنا خواص الذكاء الاصطناعي على تحقيق أهدافنا، قد يعتبروننا غير منطقيين، أو قد يروننا كعقبة لتتم إزالتها بسرعة. لذلك من حيث المخاطر الوجودية، من الضروري أن تتماشى قيم هذه التكنولوجيا الجديدة مع قيمنا الخاصة. إنه تحدٍ فلسفي وهندسي صعب للغاية سيتطلب ذلك الكثير من العمل الدقيق والمدروس. ومع ذلك، حتى لو نجحنا، يمكن أن يؤدي الذكاء الاصطناعي لنتيجة معقدة أخرى.
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
دعونا نتخيل ظهور الذكاء الاصطناعي العام مع احترام عميق لحياة الإنسان والرغبة في حل كل مشاكل الإنسانية. ولكن لتفادي الانحراف، لقد تم تطويره ليكون صارماً للغاية بشأن معتقداته. إذا أصبحت هذه الآلات القوة المسيطرة على الأرض، قد تصبح قيمهم الصارمة مهيمنة، حبس البشرية في أيديولوجية واحدة تكون مقاومة للتغيير بشكل لا يصدق. لقد علمنا التاريخ أنه مهما كانت تعتقد الحضارات أنها متعلمة ومثقفة، نادراً ما تكون على مستوى المعايير الأخلاقية للأجيال اللاحقة. وهذا النوع من تثبيت القيمة يمكن أن يؤدي إلى تشويه أو تقييد بشكل دائم نمو البشرية الأخلاقي.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
هناك قدر هائل من عدم اليقين حول الذكاء الاصطناعي العام، ومن الصعب للغاية التنبؤ بمدى وجود أي مخاطر وجودية ستتجسد على مدى القرن المقبل. من المحتمل أيضاً أن تكون هناك مخاوف جديدة أكثر إلحاحاً قد تجعل هذه المخاطر موضع نقاش. ولكن حتى لو لم نتمكن من القول بشكل قاطع إن قرننا هو أهم قرن، يبدو أن القرارات التي نتخذها قد يكون لها تأثير كبير على مستقبل البشرية. لذا ربما ينبغي علينا جميعاً أن نعيش كما أن المستقبل يعتمد علينا - لأنه في الواقع، قد يكون كذلك.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.