What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
İnsanlık tarihindeki en önemli yüzyıl hangisidir? Bazıları, kapsamlı askeri harekatların olduğu dönemler olduğunu savunabilir, Milattan önce 300′lerde yaşamış, siyasi ve kültürel sınırları yeniden şekillendiren Büyük İskender gibi. Diğerleri ise önemli bir dinin çıkışından bahsedebilir, 7. yüzyılda değerlerini kodlayan ve yayan İslamiyet gibi. Ya da belki de 1700′lerde dünya ekonomisini dönüştüren ve insanların iş ile olan ilişkisini yeniden tanımlayan Sanayi Devrimi olabilir Cevap ne olursa olsun, öyle görünüyor ki o en üst nokta için yarışan herhangi bir yüzyıl atalarımızın hareketleri, insanlığın yörüngesini gelecek yüzyıllar için değiştirildiğinde büyük değişimin anına denk geliyor gibi. Eğer bu bizim metriğimiz ise, şimdinin— bu yüzyılın— en önemlisi olma ihtimali var mı?
The 21st century has already proven to be a period of rapid technological growth.
21. yüzyıl halihazırda
Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
hızlı teknolojik gelişmelerin bir dönemi olduğunu kanıtladı. Telefonlar ve bilgisayarlar hayatın her alanına hızla girdi. Muhtemelen yeni dönüştürücü teknolojiler geliştirmenin de eşiğindeyiz, insanların hayatını tamamen değiştirebilecek ileri düzey yapay zeka gibi. Bu arada, sahip olduğumuz çoğu teknoloji insanlığa benzeri görülmemiş varoluşsal bir risk oluşturuyor— soyumuzun tükenmesine neden olacak bir risk veya insanlığın büyümesini limitleyen bir çeşit felaket. Atom bombasının bulunması varouşsal riskte büyük bir yükselişe neden oldu, ve o zamandan bu zamana sadece bize karşı olanı arttırdık. Bu yüzyılda olacak varoluşsal çöküşün olasılığını tahmin etmek oldukça zor. Kabaca tahminler varoluşsal riskin felaketini nükleer kış ve iklim değişikliği nedeniyle %0.1, pandeminin aynı tarz çöküşü yaratmasıyla korkutucu bir %3 olduğunu ortaya koyuyor.
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
Bu felaketlerin herhangi birinin yaşamı bitirebileceğini bilsek de, bunlar tam olarak küçük figürler değil. Bu yüzyılda yeni teknolojilerin yükselişinin daha çok varoluşsal risk oluşturabilmesi mümkün. Yapay zeka uzmanlarının, genel yapay zekanın ne zaman ortaya çıkacağına dair geniş bir tahmin aralığı var ancak bazı anketlere göre çoğu bu yüzyılda olabileceğini düşünüyor. Şu anda yapay zekanın sınırlı formlarına sahibiz ki bunlar satranç oynayan veya yüz tanımak gibi spesifik görevleri yapmak için tasarlanmış olanlar. Yaratıcı çalışmalar yapan sınırlı yapay zekalar bile tekil uzmanlıklarıyla sınırlı. Ama genel yapay zekalar, diğer bir deyişle AGI’ler, hızla insanları geride bırakarak, uyum sağlayabiliyor ve birçok görevi tamamlayabiliyor. AGI’nin nasıl görünebileceğine dair bir sürü çeşitli tahmin bulunuyor ve başka bir duyarlı varlıkla Dünya’yı paylaşmanın insanlık için ne anlama gelebileceği konusunda. AGI’ler amaçlarımıza ulaşmamızda bize yardım edebilir, veya bizi önemsiz görebilirler ya da bizi kaldırılması gereken bir engel olarak görebilirler. Varoluşsal risk konusunda, bu yeni teknolojinin değerlerinin bizimkilerle uyumlu olması kaçınılmazdır. Bu oldukça zor, çok fazla hassas ve düşünceli iş gerektirecek felsefenin ve mühendislik ile ilgili olan bir mücadelede şeklidir. Başarsak bile, AGI hala karışık farklı bir sonuca neden olabilir.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
Bir AGI’ın insan hayatına derin bir saygı duyduğunu ve tüm insanlığın sorunlarını çözmeye istekli olduğunu hayal edelim. Ama yanlış yolla sapmaması için inançlar konusunda oldukça katı bir şekilde geliştirildi. Bu makinalar Dünya üzerindeki baskın güç olsa bile, hegemonik olabilecek katı değerleri, değişime oldukça karşı olan tek bir ideolojiye insanlığı kilitleyebilir. Tarih bize bir toplumun kendilerini aydınlık görmesine karşın, ne kadar aydınlanmış olursa olsun gelecek nesillerin ahlak sınırlarına nadiren ulaştığını öğretti. Bu tarz bir değer kilidi insanlığın ahlaki gelişimine kalıcı olarak zarar verebilir veya kısıtlayabilir.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
AGI konusunda tonla belirsizlik var, ve varoluşsal riskin gelecek yüzyılda nasıl olacağını tahmin etmek oldukça zor. Yeni daha baskılayıcı endişelerin bu riskleri tartışmalı hale getirmesi pek muhtemel görünüyor. Ama kesin olarak bizim yüzyılımızın en önemlisi olduğunu söyleyemesek de öyle görünüyor ki, vereceğimiz kararların insanlığın geleceği üzerinde büyük bir etkisi olabilir. Belki de hepimiz gelecek bize bağlıymış gibi yaşamalıyız— gerçekten de belki gelecek bize bağlıdır.