What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
Thế kỷ nào là quan trọng nhất trong lịch sử loài người? Một vài người cho rằng đó là thời kỳ chiến dịch quân sự mở rộng, như thời của Alexander Đại đế vào khoảng năm 300 trước công nguyên, là thời kì đã định hình lại các ranh giới văn hóa và chính trị. Những người khác cho rằng sự ra đời của một tôn giáo lớn, ví dụ như Hồi giáo vào thế kỷ thứ 7, thì đã chuẩn hóa và lan tỏa các giá trị xuyên ranh giới các quốc gia. Hoặc có lẽ đó là cuộc Cách mạng Công nghiệp vào những năm 1700 đã biến đổi thương mại toàn cầu và tái định nghĩa mối quan hệ của nhân loại với lao động. Dù câu trả lời là gì, có vẻ như bất kỳ thế kỷ nào giành vị trí hàng đầu thì đều là thời điểm của sự thay đổi lớn-- khi hành động của tổ tiên chúng ta làm thay đổi quỹ đạo của nhân loại trong nhiều thế kỷ tới. Vì vậy nếu như đây là quy chuẩn, thì liệu có thể rằng ngay lúc này, chính thế kỷ này mới là thế kỷ quan trọng nhất?
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
Thế kỷ 21 đã cho chứng tỏ là một thời kỳ phát triển công nghệ nhanh chóng. Điện thoại và máy tính đã đẩy nhanh nhịp sống của con người. Và chúng ta đang trên đà phát triển những công nghệ biến đổi mới, như trí tuệ nhân tạo cao cấp, là thứ có thể làm thay đổi hoàn toàn lối sống của con người. Trong khi đó, nhiều công nghệ mà chúng ta vốn có lại góp phần vào mức độ rủi ro hiện sinh chưa từng thấy của nhân loại-- đó là nguy cơ khiến giống loài của chúng ta bị tuyệt chủng hoặc đối diện với một vài thảm họa mà vĩnh viễn kìm hãm khả năng sinh trưởng và phát triển của nhân loại. Việc phát minh bom nguyên tử đánh dấu bước nhảy vọt của rủi ro hiện sinh, và kể từ đó chúng ta chỉ làm tăng thêm khả năng chống lại chúng ta. Nó cực kì khó để ước tính khả năng của một sự sụp đổ hiện sinh xuất hiện trong thế kỷ này. Những suy đoán thô sơ có nguy cơ gây ra thảm họa hiện sinh do mùa đông hạt nhân và biến đổi khí hậu ở khoảng 0.1%, với khả năng của một dịch bệnh gây ra một loại sụp đổ tương tự ở mức đáng sợ là 3%.
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
Được cho rằng bất kì thảm họa nào trong số này có thể chính là dấu chấm hết của sự sống, đây chính xác là các số liệu không hề nhỏ, Và thế kỷ này cũng có thể thấy được sự gia tăng của công nghệ mới là thứ gây ra nhiều rủi ro hiện sinh hơn. Các chuyên gia AI có một loạt dự đoán về việc khi nào trí tuệ nhân tạo tổng hợp sẽ xuất hiện, nhưng theo một vài khảo sát, nhiều người tin rằng nó có thể xảy ra ở thế kỷ này. Hiện nay, chúng ta có những dạng thức trí tuệ nhân tạo tương đối hẹp, chúng được thiết kế để làm các việc cụ thể như chơi cờ hoặc nhận diện khuôn mặt. Ngay cả các AI hẹp làm việc sáng tạo cũng bị hạn chế bởi chuyên môn duy nhất của nó. Nhưng trí tuệ nhân tạo tổng hợp, hay AGI, sẽ có thể thích nghi và thực hiện bất cứ công việc nào, nhanh chóng vượt xa đối tác con người của chúng. Có nhiều suy đoán khác nhau về việc AGI sẽ trông như thế nào, và nó có ý nghĩa gì đối với nhân loại khi phải chia sẻ Trái Đất với một thực thể có tri giác khác. AGI có thể giúp chúng ta đạt được các mục tiêu của mình, chúng có thể xem loài người là vô hại, hoặc, chúng cũng có thể xem chúng ta như trở ngại để nhanh chóng loại bỏ. Do đó khi xét về rủi ro hiện sinh, điều bắt buộc là giá trị của công nghệ mới này phải tương đồng với giá trị của chúng ta. Đây là một thách thức cực khó về mặt triết lý và kĩ thuật nó đòi hỏi rất nhiều công việc tỉ mỉ, cẩn trọng. Nhưng, kể cả khi chúng ta thành công, AGI vẫn có thể đưa tới kết quả phức tạp khác.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
Hãy tưởng tượng một AGI xuất hiện với sự tôn trọng sâu sắc cuộc sống của con người và một khao khát muốn giải quyết tất cả các vấn đề của nhân loại. Nhưng để tránh trở nên lệch lạc, nó đã được phát triển để trở nên cực kì cứng rắn với niềm tin của mình. Nếu những máy móc này trở thành quyền lực thống trị trên thế giới, các giá trị nghiêm ngặt của chúng có thể trở nên độc đoán, nhốt con người vào một hệ tư tưởng cực kì khó khăn để thay đổi. Lịch sử đã dạy ta rằng bất kể nền văn minh cho rằng họ giác ngộ như thế nào, họ hiếm khi đạt tới các tiêu chuẩn đạo đức của các thế hệ sau. Và loại giá trị ép buộc này có thể vĩnh viễn làm biến dạng hoặc kìm hãm sự phát triển đạo đức của con người.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.
Có vô vàn những biến số về AGI, và thực sự rất khó đế dự đoán cách mà bất kì các rủi ro hiện sinh nào sẽ diễn ra trong thế kỷ tới. Cũng có thể là những mối quan tâm mới, cấp bách hơn có thể đưa tới các rủi ro ít thực tế. Nhưng kể cả khi chúng ta không thể khẳng định rằng thế kỷ của chúng ta là thế kỉ quan trọng nhất, thì dường như những quyết định chúng ta đưa ra có lẽ vẫn sẽ có tác động to lớn đối với tương lai của nhân loại. Vì vậy có lẽ chúng ta nên sống như thể tương lai phụ thuộc vào chính chúng ta, bởi trên thực tế, nó chỉ có thể như vậy.