What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
Qual è il secolo più importante nella storia dell’umanità? Alcuni potrebbero sostenere che si tratti di un periodo di estese campagne militari come la conquista di Alessandro Magno negli anni ’300 a.C., che ha ridefinito i confini politici e culturali. Altre persone potrebbero pensare all’emergere di una grande religione, come l’Islam nel settimo secolo, che ha codificato e diffuso valori al di là dei confini. Altrimenti, potrebbe essere la Rivoluzione Industriale del 1700 ad aver trasformato il commercio globale e ridefinito il rapporto dell’umanità con il lavoro. Qualunque sia la risposta, sembra che ogni secolo che enfatizza la sua importanza sia in un momento di grande cambiamento; quando le azioni dei nostri antenati hanno cambiato la traiettoria dell’umanità per i secoli successivi. Se questa è la nostra metrica, potrebbe essere possibile che questo secolo sia il più significativo finora?
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
Il XXI secolo si è dimostrato un’epoca di rapida crescita tecnologica. I telefoni e i computer hanno accelerato il ritmo della vita. E probabilmente stiamo per sviluppare nuove tecnologie trasformative, come l’intelligenza artificiale avanzata, che possono cambiare completamente il modo in cui le persone vivono. Nel frattempo, molte delle tecnologie che già possediamo contribuiscono a livelli senza precedenti di rischio esistenziale dell’umanità. Questo è il rischio che la nostra specie si estingua o che si verifichi qualche disastro che limiti in modo permanente la capacità dell’umanità di prosperare. L’invenzione della bomba atomica ha aumentato il rischio esistenziale e da allora le probabilità contro di noi sono solo cresciute. È profondamente difficile stimare la probabilità di un collasso esistenziale che possa verificarsi in questo secolo. Stime approssimative pongono il rischio di una catastrofe esistenziale a causa dell’inverno nucleare e del cambiamento climatico a circa lo 0'1%, con la probabilità che una pandemia causi lo stesso tipo di collasso a un più preoccupante 3%.
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
Dato che uno di questi disastri potrebbe comportare la fine della vita conosciuta, queste cifre non sono trascurabili. Ed è possibile che questo secolo assista allo sviluppo di nuove tecnologie che propongano maggiori rischi vitali. Gli esperti di IA hanno una vasta gamma di stime riguardo il momento in cui l’intelligenza artificiale generale emergerà. Secondo i sondaggi, l’opinione di molti è che possa svilupparsi in questo secolo. Attualmente, abbiamo forme relativamente limitate di IA, progettate per svolgere compiti specifici, giocare a scacchi o riconoscere i volti. I piccoli programmi di IA per il lavoro creativo sono limitati a una sola area. Ma le intelligenze artificiali generali, o “AGI”, sarebbero in grado di adattarsi e svolgere un numero qualsiasi di compiti, superando rapidamente i loro equivalenti umani. Ci sono molte previsioni su come potrebbe essere un AGI e su cosa significherebbe per l’umanità condividere la Terra con un’altra entità senziente. Le AGI potrebbero aiutarci a raggiungere i nostri obiettivi, potrebbero considerarci insignificanti oppure vederci come un ostacolo da rimuovere rapidamente. Pertanto, in termini di rischio esistenziale, è imperativo che i valori di questa nuova tecnologia si allineino ai nostri. Questo rappresenta una sfida filosofica e ingegneristica estremamente difficile che richiederà molto lavoro delicato e ponderato. Anche se avremo successo, l’AGI potrebbe comunque portare a un altro esito ostico.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
Immaginate un’AGI con un profondo rispetto per la vita umana e il desiderio di risolvere tutti i problemi dell’umanità. Tuttavia, per evitare di diventare non allineati, è stato sviluppato per essere estremamente rigido riguardo alle sue credenze. Se queste macchine diventassero la potenza dominante sulla Terra, i loro rigidi valori potrebbero diventare egemonici. imprigionando l’umanità in un’ideologia che sarebbe davvero difficile da cambiare. La storia ci ha insegnato che non importa quanto illuminata possa considerarsi una civiltà, raramente soddisfa gli standard morali delle generazioni future. Questo tipo di fissaggio di valore potrebbe falsare o limitare per sempre la crescita morale dell'umanità.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
C’è molta incertezza riguardo all’AGI ed è molto difficile prevedere come si svilupperanno eventuali rischi esistenziali nel prossimo secolo. È anche possibile che nuove e più urgenti preoccupazioni rendano questi rischi oggetto di dibattito. Ma anche se non possiamo dire con certezza che il nostro secolo sia il più importante sembra che le decisioni che prendiamo avranno un impatto significativo sul futuro dell'umanità. Quindi forse dovremmo tutti vivere come se il futuro dipendesse da noi, perché in realtà potrebbe essere così.