Ποιος είναι ο σημαντικότερος αιώνας στην ανθρώπινη ιστορία; όπως εκείνη του Μεγάλου Αλεξάνδρου τον 4ο αιώνα π.Χ., που επανακαθόρισε τα πολιτικά και πολιτισμικά σύνορα. Άλλοι αναφέρουν την ανάδυση μιας μεγάλης θρησκείας, όπως του Ισλάμ τον 7ο αιώνα, που κωδικοποίησε και διέδωσε αξίες πέρα από τέτοια σύνορα. Ή ίσως είναι η Βιομηχανική Επανάσταση του 18ου αιώνα, που μεταμόρφωσε το παγκόσμιο εμπόριο και επαναπροσδιόρισε τη σχέση της ανθρωπότητας με την εργασία. Όποια κι αν είναι η απάντηση, φαίνεται ότι κάθε αιώνας που αγωνίζεται για την πρώτη θέση βρίσκεται σε στιγμές μεγάλων αλλαγών, όταν οι πράξεις των προγόνων μας άλλαξαν την τροχιά της ανθρωπότητας για πολλούς αιώνες. Αν λοιπόν αυτό είναι το μέτρο σύγκρισης, αυτός ο αιώνας να είναι ο σημαντικότερος απ′ όλους;
What's the most important century in human history? Some might argue it’s a period of extensive military campaigning, like Alexander the Great’s in the 300s BCE, which reshaped political and cultural borders. Others might cite the emergence of a major religion, such as Islam in the 7th century, which codified and spread values across such borders. Or perhaps it’s the Industrial Revolution of the 1700s that transformed global commerce and redefined humanity's relationship with labor. Whatever the answer, it seems like any century vying for that top spot is at a moment of great change— when the actions of our ancestors shifted humanity’s trajectory for centuries to come. So if this is our metric, is it possible that right now— this century— is the most important one yet?
Ο 21ος αιώνας έχει ήδη αποδειχτεί περίοδος ραγδαίας τεχνολογικής ανάπτυξης. Τα τηλέφωνα και οι υπολογιστές επιτάχυναν τους ρυθμούς της ζωής. Και μάλλον είμαστε κοντά στην ανάπτυξη νέων ριζοσπαστικών τεχνολογιών, όπως η προηγμένη τεχνητή νοημοσύνη, που θα μπορούσε να αλλάξει εντελώς τον τρόπο ζωής των ανθρώπων. Στο μεταξύ, πολλές από τις ήδη υπάρχουσες τεχνολογίες συμβάλλουν στον άνευ προηγουμένου υπαρξιακό κίνδυνο της ανθρωπότητας, δηλαδή στον κίνδυνο να εκλείψει το είδος μας την ικανότητα της ανθρωπότητας να αναπτύσσεται και να ακμάζει. Η εφεύρεση της ατομικής βόμβας οδήγησε σε μεγάλη αύξηση του υπαρξιακού κινδύνου, και από τότε οι πιθανότητες εναντίον μας μόνο αυξάνονται. Είναι εξαιρετικά δύσκολο να εκτιμήσουμε τις πιθανότητες να συμβεί μια υπαρξιακή κατάρρευση αυτόν τον αιώνα. Πρόχειρες εκτιμήσεις υπολογίζουν το ρίσκο της υπαρξιακής καταστροφής εξαιτίας του πυρηνικού χειμώνα και της κλιματικής αλλαγής γύρω στο 0,1%, με τις πιθανότητες μιας πανδημίας να προκαλεί το ίδιο είδος κατάρρευσης σε ένα τρομακτικό 3%.
The 21st century has already proven to be a period of rapid technological growth. Phones and computers have accelerated the pace of life. And we’re likely on the cusp of developing new transformative technologies, like advanced artificial intelligence, that could entirely change the way people live. Meanwhile, many technologies we already have contribute to humanity’s unprecedented levels of existential risk— that’s the risk of our species going extinct or experiencing some kind of disaster that permanently limits humanity’s ability to grow and thrive. The invention of the atomic bomb marked a major rise in existential risk, and since then we’ve only increased the odds against us. It’s profoundly difficult to estimate the odds of an existential collapse occurring this century. Very rough guesses put the risk of existential catastrophe due to nuclear winter and climate change at around 0.1%, with the odds of a pandemic causing the same kind of collapse at a frightening 3%.
Δεδομένου ότι αυτές οι καταστροφές θα οδηγούσαν στο τέλος της ζωής όπως την ξέρουμε, αυτά δεν είναι μικρά νούμερα. Και είναι πιθανό αυτόν τον αιώνα να δούμε την εμφάνιση νέων τεχνολογιών που εγκυμονούν περισσότερους υπαρξιακούς κινδύνους. Οι ειδικοί κάνουν διάφορες εικασίες σχετικά με το πότε θα αναδυθεί η Γενική Τεχνητή Νοημοσύνη, αλλά σύμφωνα με κάποιες έρευνες, μπορεί να εμφανιστεί αυτόν τον αιώνα. Προς το παρόν, έχουμε συγκεκριμένες μορφές τεχνητής νοημοσύνης, σχεδιασμένες για συγκεκριμένες δουλειές, όπως το να παίζουν σκάκι ή να αναγνωρίζουν πρόσωπα. Ακόμα και αυτή που κάνει δημιουργική δουλειά είναι περιορισμένη στην ειδικότητά της. Αλλά η Γενική Τεχνητή Νοημοσύνη, ή ΓΤΝ, θα ήταν ικανή να προσαρμόζεται και να εκτελεί οποιαδήποτε εργασία, ξεπερνώντας γρήγορα τους ανθρώπους. Υπάρχουν πάρα πολλές απόψεις για το πώς θα μπορούσε να μοιάζει η ΓΤΝ και τι θα σήμαινε για την ανθρωπότητα να μοιράζεται τη Γη με ένα άλλο νοήμον ον. Η ΓΤΝ μπορεί να βοηθήσει στην επίτευξη των στόχων μας, μπορεί να μας θεωρήσει ασήμαντους ή να μας θεωρήσει ένα εμπόδιο που πρέπει να εξαλείψει γρήγορα. Άρα, στο πλαίσιο του υπαρξιακού κινδύνου, πρέπει οι αξίες αυτής της νέας τεχνολογίας να συνάδουν με τις δικές μας. Είναι μια απίστευτα δύσκολη φιλοσοφική και τεχνολογική πρόκληση που θα χρειαστεί πολλή λεπτή και προσεκτική δουλειά. Όμως, ακόμα κι αν τα καταφέρουμε, η ΓΤΝ μπορεί να επιφέρει ακόμα ένα πολύπλοκο αποτέλεσμα.
Given that any of these disasters could mean the end of life as we know it, these aren’t exactly small figures, And it’s possible this century could see the rise of new technologies that introduce more existential risks. AI experts have a wide range of estimates regarding when artificial general intelligence will emerge, but according to some surveys, many believe it could happen this century. Currently, we have relatively narrow forms of artificial intelligence, which are designed to do specific tasks like play chess or recognize faces. Even narrow AIs that do creative work are limited to their singular specialty. But artificial general intelligences, or AGIs, would be able to adapt to and perform any number of tasks, quickly outpacing their human counterparts. There are a huge variety of guesses about what AGI could look like, and what it would mean for humanity to share the Earth with another sentient entity. AGIs might help us achieve our goals, they might regard us as inconsequential, or, they might see us as an obstacle to swiftly remove. So in terms of existential risk, it's imperative the values of this new technology align with our own. This is an incredibly difficult philosophical and engineering challenge that will require a lot of delicate, thoughtful work. Yet, even if we succeed, AGI could still lead to another complicated outcome.
Ας φανταστούμε ότι προκύπτει μια ΓΤΝ με βαθύ σεβασμό για την ανθρώπινη ζωή και την επιθυμία να λύσει όλα τα προβλήματα της ανθρωπότητας. Αλλά για να μην χάσει την εναρμόνισή της, έχει προγραμματιστεί να είναι απίστευτα άκαμπτη ως προς τις πεποιθήσεις της. Αν αυτές οι μηχανές γίνονταν η κυρίαρχη δύναμη στη Γη, οι αυστηρές αξίες τους μπορεί να γίνονταν τυραννικές, φυλακίζοντας την ανθρωπότητα σε μια ιδεολογία που θα αντιστεκόταν απίστευτα στην αλλαγή. Η ιστορία μάς έχει δείξει ότι όσο πεφωτισμένος νομίζει πως είναι ένας πολιτισμός, σπάνια ανταποκρίνεται στα ηθικά πρότυπα των επόμενων γενιών. Και αυτό το «κλείδωμα αξιών» θα μπορούσε να διαστρεβλώσει ή να περιορίσει μόνιμα την ηθική ανάπτυξη της ανθρωπότητας.
Let’s imagine an AGI emerges with deep respect for human life and a desire to solve all humanity’s troubles. But to avoid becoming misaligned, it's been developed to be incredibly rigid about its beliefs. If these machines became the dominant power on Earth, their strict values might become hegemonic, locking humanity into one ideology that would be incredibly resistant to change. History has taught us that no matter how enlightened a civilization thinks they are, they are rarely up to the moral standards of later generations. And this kind of value lock in could permanently distort or constrain humanity’s moral growth.
Υπάρχει πολύ μεγάλη αβεβαιότητα σχετικά με την ΓΤΝ και είναι πολύ δύσκολο να προβλέψει κανείς πώς θα εκτυλιχθούν οι υπαρξιακοί κίνδυνοι κατά τον επόμενο αιώνα. Είναι επίσης πιθανό ότι νέα, πιο επείγοντα ζητήματα θα καταστήσουν αυτούς τους κινδύνους αμελητέους. Αλλά ακόμα κι αν δεν είμαστε σίγουροι ότι ο δικός μας είναι ο σημαντικότερος αιώνας, φαίνεται ωστόσο ότι οι αποφάσεις που παίρνουμε ίσως έχουν μεγάλο αντίκτυπο στο μέλλον της ανθρωπότητας. Άρα, ίσως πρέπει όλοι να ζούμε σαν το μέλλον να εξαρτάται από εμάς, γιατί μπορεί όντως έτσι να είναι.
There's a ton of uncertainty around AGI, and it’s profoundly difficult to predict how any existential risks will play out over the next century. It’s also possible that new, more pressing concerns might render these risks moot. But even if we can't definitively say that ours is the most important century, it still seems like the decisions we make might have a major impact on humanity’s future. So maybe we should all live like the future depends on us— because actually, it just might.