What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
Qual é o século mais importante na História da Humanidade? Alguns poderão defender que será um período de extensas campanhas militares, como as de Alexandre, o Grande, no quarto século a.C., que remodelaram fronteiras políticas e culturais. Outros poderão citar o surgimento de uma religião importante, como o Islão no século VII, que codificou e espalhou valores além fronteiras. Ou talvez seja a Revolução Industrial do século XVIII que transformou o comércio global e redefiniu a relação da Humanidade com o trabalho. Independentemente da resposta, parece que qualquer século que lute pelo primeiro lugar está num momento de grande mudança - quando as ações dos nossos antepassados mudaram a trajetória da Humanidade para sempre. Então, se esta for a nossa métrica, será possível que o presente - este século - seja o mais importante até agora?
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
O século XXI já provou ser um período de rápido crescimento tecnológico. Os telefones e os computadores aceleraram o ritmo da vida. E provavelmente estamos prestes a desenvolver tecnologias transformadoras, como inteligência artificial avançada, que poderão mudar completamente o modo como as pessoas vivem. Entretanto, muitas tecnologias que já temos contribuem para níveis sem precedentes de risco existencial da Humanidade - o risco de a nossa espécie se extinguir ou de passar por algum tipo de desastre que limite permanentemente a capacidade da Humanidade de crescer e prosperar. A invenção da bomba atómica marcou um grande aumento no risco existencial, e desde então só temos aumentado as probabilidades contra nós. É extremamente difícil fazer a estimativa das probabilidades de um colapso existencial acontecer neste século. Estimativas muito vagas põem o risco de uma catástrofe existencial devido a um inverno nuclear e alterações climáticas em cerca de 0,1%, com a probabilidade de uma pandemia causar o mesmo tipo de colapso nuns assustadores 3%.
Given that any of these disasters could mean the end of life as we know it,
Visto que qualquer um destes desastres
these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
poderia significar o fim da vida como a conhecemos, estes não são exatamente números pequenos, e é possível que neste século possam surgir novas tecnologias que introduzam mais riscos existenciais. Os peritos de IA têm uma grande variedade de estimativas sobre quando a inteligência artificial despontará, mas segundo alguns inquéritos, muitos pensam que poderá acontecer neste século. Atualmente, temos formas de inteligência artificial relativamente limitadas, que são criadas para fazer tarefas especificas, como jogar xadrez ou reconhecer caras. Mesmo as formas limitadas de inteligência artificial que fazem algo criativo estão limitadas a essa única especialidade. Mas as inteligências artificiais gerais, ou AGIs, seriam capazes de se adaptarem e realizarem qualquer número de tarefas, rapidamente ultrapassando os seus pares humanos. Há uma enorme variedade de estimativas sobre como seria a AGI e o que significaria para a Humanidade ter de partilhar a Terra com outra entidade senciente. As AGIs poderão ajudar-nos a concretizar os nossos objetivos, poderão considerar-nos inconsequentes, ou, poderão ver-nos como um obstáculo para ser removido rapidamente. Então, em termos de riscos existenciais, é imperativo que os valores desta nova tecnologia se alinhem com os nossos. Isto é um desafio filosófico e de engenharia incrivelmente difícil que requererá muito trabalho delicado e ponderado. Mesmo assim, mesmo que sejamos bem-sucedidos, a AGI ainda nos poderá levar a outro desfecho complicado.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
Vamos imaginar que uma AGI surge com um profundo respeito pela vida humana e com um desejo de resolver todos os problemas da Humanidade. Mas para evitar desalinhamentos, foi criada para ser incrivelmente rígida nas suas crenças. Se estas máquinas se tornarem no poder dominante na Terra, os seus valores restritos poderão tornar-se hegemónicos, prendendo a Humanidade a uma ideologia que seria incrivelmente resistente à mudança. A História tem-nos ensinado que não importa o quão educada uma civilização se considerada, raramente corresponde aos padrões morais das gerações posteriores. E este tipo de bloqueio de valores pode distorcer ou restringir permanentemente o crescimento moral da Humanidade.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
Há imensas incertezas sobre a AGI e é profundamente difícil prever quantos riscos existenciais irão ocorrer no próximo século. Também é possível que preocupações novas e mais urgentes possam tornar estes riscos discutíveis. Mas mesmo que não possamos mesmo dizer que o nosso século é o mais importante, ainda assim parece que as decisões que tomamos podem ter um grande impacto no futuro da Humanidade. Por isso, talvez devêssemos todos viver como se o futuro dependesse de nós, porque, na verdade, pode mesmo depender.