What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
Quel est le siècle le plus important de l’histoire humaine ? Certains diraient que c’est une période de vastes campagnes militaires, comme celles d’Alexandre le Grand dans les années 300 avant J.-C., qui redéfinirent les frontières politiques et culturelles. D’autres pourraient citer l’émergence d’une grande religion, comme l’Islam au 7e siècle, qui établit et diffusa des valeurs à travers ces frontières. Ou peut-être s’agit-il de la Révolution Industrielle du 17e siècle qui bouleversa le commerce mondial et redéfinit la relation entre l’Homme et le travail. Quelle que soit la réponse, n’importe quel siècle en lice pour la première position semble se situer à un moment de grand changement, quand les actions de nos ancêtres changèrent la trajectoire de l’humanité pour les siècles à venir. S’il s’agit de notre unité de mesure, est-il alors possible qu’en ce moment, ce siècle-ci, soit le plus important à ce jour ?
The 21st century has already proven to be a period of rapid technological growth.
Le 21e siècle s’est déjà révélé être
Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
une période de croissance technologique rapide. Les portables et ordinateurs ont accéléré notre rythme de vie. Et nous sommes sur le point de créer de nouvelles technologies transformatrices, comme l’intelligence artificielle avancée, qui pourrait entièrement changer notre façon de vivre. Parallèlement, de nombreuses technologies déjà en notre possession contribuent à des niveaux sans précédent de risque existentiel de l’humanité, le risque d’extinction de notre espèce et l’expérience d’un désastre qui limiterait de manière permanente la capacité de l’humanité à grandir et s’épanouir. L’invention de la bombe atomique marqua une hausse majeure du risque existentiel et depuis lors, nous n’avons fait qu’augmenter les risques à notre encontre. Il est profondément difficile d’estimer les probabilités d’un effondrement existentiel survenant ce siècle. Des calculs approximatifs conjecturent le risque d’une catastrophe existentielle en raison de l’hiver nucléaire et du changement climatique de l’ordre de 0,1 %, et les risques d’une pandémie causant le même genre d’effondrement à un pourcentage alarmant de 3%.
Given that any of these disasters could mean the end of life as we know it,
Étant donné que l’un de ces désastres signifierait la fin de la vie
these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
telle qu’on la connaît, il ne s’agit pas de petits chiffres. Et il est possible que ce siècle puisse voir la montée de nouvelles technologies introduisant davantage de risques existentiels. Les experts en IA disposent d’une multitude d’estimations sur le moment où émergera l’intelligence artificielle générale, mais selon de nombreuses études, beaucoup pensent que cela pourrait arriver durant ce siècle. À ce jour, nous avons des formes plutôt limitées en termes d’IA, qui sont conçues pour effectuer des tâches spécifiques comme le jeu d’échecs ou la reconnaissance faciale. Même ces IA réalisant une mission créative sont limitées à leur spécialité singulière. Or les intelligences artificielles générales, ou IAG, seraient capables de s’adapter et de réaliser un grand nombre de tâches, dépassant rapidement leurs homologues humains. Il existe une grande variété d’hypothèses sur ce à quoi pourrait ressembler l’IAG, et sur ce que cela signifierait pour l’humanité de partager la Terre avec une autre entité sensible. Les IAG pourraient nous aider à atteindre nos objectifs, elles pourraient nous juger insignifiants, ou, elles pourraient nous voir comme un obstacle à éliminer rapidement. Alors en termes de risque existentiel, il est impératif d’aligner les valeurs de ces technologies avec les nôtres. C’est un défi extrêmement difficile philosophiquement et techniquement parlant qui demandera beaucoup de travail subtil et réfléchi. Mais même si nous réussissons, les IAG pourraient encore conduire à un autre résultat compliqué.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
Imaginons qu’une IAG voit le jour avec un profond respect pour la vie humaine et un désir de résoudre tous les problèmes de l’humanité. Mais pour éviter de se désaligner, elle a été développée afin d’être très rigide quant à ses convictions. Si ces machines devenaient la puissance dominante sur Terre, leurs valeurs strictes pourraient devenir hégémoniques, enfermant l’humanité dans une idéologie extrêmement résistante au changement. L’histoire nous a appris que peu importe à quel point une civilisation pense être éclairée, elle est rarement à la hauteur des normes morales des générations futures. Ce type d’enfermement de valeurs pourrait altérer ou restreindre de façon permanente la croissance morale de l’humanité.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
Il y a une tonne d’incertitude autour de l’IAG, et il est difficile de prédire la manière dont les risques existentiels se manifesteront au cours du siècle prochain. Il est également possible que de nouveaux et plus urgents problèmes puissent rendre ces risques sans importance. Mais même si nous ne pouvons pas dire que notre siècle est absolument le plus important, il semble que les décisions que nous prenons auront un impact majeur sur le futur de l’humanité. Nous devrions peut-être vivre tous comme si le futur dépendait de nous - car en réalité, cela pourrait être le cas.