Νοημοσύνη -- τι είναι; Αν κάνουμε μια αναδρομή στην ιστορία σχετικά με τον τρόπο που έχει κριθεί η νοημοσύνη, ένα γόνιμο παράδειγμα υπήρξε η διάσημη φράση του Έντσγκερ Ντάικστρα ότι «το ερώτημα αν μια μηχανή μπορεί να σκεφτεί είναι τόσο ενδιαφέρον όσο και το ερώτημα αν ένα υποβρύχιο μπορεί να κολυμπήσει». Τώρα, ο Έντσγκερ Ντάικστρα, όταν το έγραψε αυτό, το εννοούσε ως κριτική για τους πρωτοπόρους της επιστήμης υπολογιστών, όπως ο Άλαν Τούρινγκ. Ωστόσο, αν ρίξετε μια ματιά στο παρελθόν και σκεφτείτε πώς θα ήταν οι πιο σημαντικές καινοτομίες που μας επέτρεψαν να φτιάξουμε τεχνητές μηχανές που κολυμπούν και τεχνητές μηχανες που [πετούν], θα δείτε ότι μόνο μέσω της κατανόησης των υποκείμενων φυσικών μηχανισμών της κολύμβησης και της πτήσης μπορέσαμε να φτιάξουμε αυτές τις μηχανές. Και έτσι, μερικά χρόνια πριν, ξεκίνησα ένα πρόγραμμα για να προσπαθήσω να καταλάβω τους θεμελιώδεις φυσικούς μηχανισμούς που διέπουν τη νοημοσύνη.
Intelligence -- what is it? If we take a look back at the history of how intelligence has been viewed, one seminal example has been Edsger Dijkstra's famous quote that "the question of whether a machine can think is about as interesting as the question of whether a submarine can swim." Now, Edsger Dijkstra, when he wrote this, intended it as a criticism of the early pioneers of computer science, like Alan Turing. However, if you take a look back and think about what have been the most empowering innovations that enabled us to build artificial machines that swim and artificial machines that [fly], you find that it was only through understanding the underlying physical mechanisms of swimming and flight that we were able to build these machines. And so, several years ago, I undertook a program to try to understand the fundamental physical mechanisms underlying intelligence.
Ας πάμε ένα βήμα πίσω. Ας αρχίσουμε με ένα νοητικό πείραμα. Προσποιηθείτε ότι είστε μια φυλή εξωγήινων που δεν γνωρίζει τίποτα σχετικά με τη βιολογία της Γης ή τη νευροεπιστήμη ή τη νοημοσύνη της Γης, αλλά έχετε εκπληκτικά τηλεσκόπια και μπορείτε να παρατηρήσετε τη Γη, και ζείτε εκπληκτικά πολλά χρόνια, άρα μπορείτε να παρακολουθήσετε τη Γη για εκατομμύρια, ακόμη και δισεκατομμύρια χρόνια. Και παρατηρείτε μια πραγματικά παράξενη έκβαση. Παρατηρείτε ότι με το πέρασμα των χιλιετιών, η Γη βομβαρδίζεται συνεχώς από αστεροειδείς μέχρι κάποια στιγμή, και ότι σε αυτή τη στιγμή, που αντιστοιχεί αδρά στη χρονολογία μας, το 2000 μ.Χ., οι αστεροειδείς που βρίσκονται σε πορεία σύγκρουσης με τη Γη και που κανονικά θα είχαν πέσει πάνω της, εκτρέπονται μυστηριωδώς ή ανατινάζονται πριν μπορέσουν να χτυπήσουν τη Γη. Τώρα φυσικά εμείς, ως γήινοι, γνωρίζουμε ότι ο λόγος θα ήταν ότι προσπαθούμε να σωθούμε. Προσπαθούμε να αποτρέψουμε μια σύγκρουση. Αν όμως είστε μια φυλή εξωγήινων που δεν γνωρίζει τίποτε γι' αυτό, που δεν έχει καμία ιδέα για τη νοημοσύνη της Γης, θα αναγκαζόσασταν να συγκροτήσετε μια φυσική θεωρία που να εξηγεί πώς, σε μια δεδομένη χρονική στιγμή, οι αστεροειδείς που θα συνέτριβαν την επιφάνεια ενός πλανήτη σταμάτησαν μυστηριωδώς να το κάνουν. Ισχυρίζομαι λοιπόν ότι αυτό το ζήτημα είναι το ίδιο με την κατανόηση της φυσικής ουσίας της νοημοσύνης.
Let's take a step back. Let's first begin with a thought experiment. Pretend that you're an alien race that doesn't know anything about Earth biology or Earth neuroscience or Earth intelligence, but you have amazing telescopes and you're able to watch the Earth, and you have amazingly long lives, so you're able to watch the Earth over millions, even billions of years. And you observe a really strange effect. You observe that, over the course of the millennia, Earth is continually bombarded with asteroids up until a point, and that at some point, corresponding roughly to our year, 2000 AD, asteroids that are on a collision course with the Earth that otherwise would have collided mysteriously get deflected or they detonate before they can hit the Earth. Now of course, as earthlings, we know the reason would be that we're trying to save ourselves. We're trying to prevent an impact. But if you're an alien race who doesn't know any of this, doesn't have any concept of Earth intelligence, you'd be forced to put together a physical theory that explains how, up until a certain point in time, asteroids that would demolish the surface of a planet mysteriously stop doing that. And so I claim that this is the same question as understanding the physical nature of intelligence.
Σε αυτό λοιπόν το πρόγραμμα που ξεκίνησα πριν από χρόνια εξέτασα μια ποικιλία διαφορετικών στοιχείων σε όλο το επιστημονικό φάσμα, σε διάφορους επιστημονικούς κλάδους, που στόχευαν, πιστεύω, προς έναν ενιαίο, υποκείμενο μηχανισμό για τη νοημοσύνη. Στην κοσμολογία, για παράδειγμα, υπήρχε μια πληθώρα διαφορετικών ενδεικτικών στοιχείων ότι το σύμπαν μας φαίνεται να είναι τέλεια συντονισμένο για την ανάπτυξη νοημοσύνης, και, ειδικότερα, για την ανάπτυξη γενικών καταστάσεων που μεγιστοποιούν την ποικιλομορφία πιθανών μελλόντων. Στα παιχνίδια, για παράδειγμα, στο Γκόου -- όλοι θυμούνται το 1997 όταν ο Ντιπ Μπλου της IBM νίκησε στο σκάκι τον Γκάρι Κασπάροβ -- λιγότεροι άνθρωποι γνωρίζουν ότι τα τελευταία 10 χρόνια ή τόσο, το παιχνίδι Γκόου, εύλογα ένα πολύ πιο δύσκολο παιχνίδι επειδή έχει πολύ υψηλότερο παράγοντα διακλάδωσης, είχε επίσης αρχίσει να υποκύπτει στους παίκτες ηλεκτρονικών παιχνιδιών για τον ίδιο λόγο: οι καλύτερες τεχνικές τώρα για υπολογιστές που παίζουν Γκόου είναι οι τεχνικές που προσπαθούν να μεγιστοποιήσουν τις μελλοντικές επιλογές κατά τη διάρκεια του παιχνιδιού. Τέλος, στον σχεδιασμό της ρομποτικής κίνησης, υπήρξε μια πληθώρα πρόσφατων τεχνικών που προσπάθησαν να εκμεταλλευτούν τις ικανότητες των ρομπότ να μεγιστοποιούν τη μελλοντική ελευθερία δράσης ώστε να εκτελούν πολύπλοκες εργασίες. Έτσι, παίρνοντας όλα αυτά τα διαφορετικά στοιχεία και βάζοντάς τα μαζί, αναρωτήθηκα, αρχίζοντας πριν από αρκετά χρόνια, υπάρχει ένας υποκείμενος μηχανισμός για τη νοημοσύνη που να μπορούμε να εξάγουμε από όλα αυτά τα διαφορετικά στοιχεία; Υπάρχει μία και μοναδική εξίσωση για τη νοημοσύνη;
So in this program that I undertook several years ago, I looked at a variety of different threads across science, across a variety of disciplines, that were pointing, I think, towards a single, underlying mechanism for intelligence. In cosmology, for example, there have been a variety of different threads of evidence that our universe appears to be finely tuned for the development of intelligence, and, in particular, for the development of universal states that maximize the diversity of possible futures. In game play, for example, in Go -- everyone remembers in 1997 when IBM's Deep Blue beat Garry Kasparov at chess -- fewer people are aware that in the past 10 years or so, the game of Go, arguably a much more challenging game because it has a much higher branching factor, has also started to succumb to computer game players for the same reason: the best techniques right now for computers playing Go are techniques that try to maximize future options during game play. Finally, in robotic motion planning, there have been a variety of recent techniques that have tried to take advantage of abilities of robots to maximize future freedom of action in order to accomplish complex tasks. And so, taking all of these different threads and putting them together, I asked, starting several years ago, is there an underlying mechanism for intelligence that we can factor out of all of these different threads? Is there a single equation for intelligence?
Και η απάντηση πιστεύω ότι είναι, ναι. [«F = T ∇ Sτ»] Αυτό που βλέπετε είναι ίσως το πλησιέστερο ισοδύναμο του E = mc² για τη νοημοσύνη που έχω δει. Αυτό λοιπόν που βλέπετε εδώ είναι μια πρόταση αντιστοιχίας ότι η νοημοσύνη είναι μια δύναμη, F, που ενεργεί για να μεγιστοποιεί τη μελλοντική ελευθερία δράσης. Ενεργεί για να μεγιστοποιεί τη μελλοντική ελευθερία δράσης ή για να διατηρεί διαθέσιμες επιλογές, με κάποια ισχύ Τ, με την ποικιλομορφία των πιθανών προσβάσιμων μελλόντων, S, μέχρι κάποιον μελλοντικό χρονικό ορίζοντα, ταυ. Με λίγα λόγια, στη νοημοσύνη δεν της αρέσει να παγιδεύεται. Η νοημοσύνη προσπαθεί να μεγιστοποιεί τη μελλοντική ελευθερία δράσης και να διατηρεί διαθέσιμες επιλογές. Και έτσι, με δεδομένη αυτή τη μία εξίσωση, είναι φυσικό να ρωτήσουμε, τι την κάνουμε; Πόσα μπορεί να προβλέψει; Προβλέπει τη νοημοσύνη σε ανθρώπινο επίπεδο; Προβλέπει την τεχνητή νοημοσύνη; Θα σας παρουσιάσω λοιπόν τώρα ένα βίντεο που νομίζω ότι θα δείξει κάποιες από τις εκπληκτικές εφαρμογές αυτής της μίας εξίσωσης.
And the answer, I believe, is yes. ["F = T ∇ Sτ"] What you're seeing is probably the closest equivalent to an E = mc² for intelligence that I've seen. So what you're seeing here is a statement of correspondence that intelligence is a force, F, that acts so as to maximize future freedom of action. It acts to maximize future freedom of action, or keep options open, with some strength T, with the diversity of possible accessible futures, S, up to some future time horizon, tau. In short, intelligence doesn't like to get trapped. Intelligence tries to maximize future freedom of action and keep options open. And so, given this one equation, it's natural to ask, so what can you do with this? How predictive is it? Does it predict human-level intelligence? Does it predict artificial intelligence? So I'm going to show you now a video that will, I think, demonstrate some of the amazing applications of just this single equation.
(Βίντεο) Αφηγητής: Πρόσφατες έρευνες στην κοσμολογία υποδηλώνουν ότι τα σύμπαντα που παράγουν περισσότερη αταξία, ή «εντροπία», κατά τη διάρκεια ζωής τους θα πρέπει να τείνουν να έχουν ευνοϊκότερες συνθήκες για την ύπαρξη νοημόνων όντων σαν κι εμάς. Αλλά μήπως αυτή η ενδεικτική κοσμολογική σύνδεση ανάμεσα στην εντροπία και τη νοημοσύνη υπαινίσσεται μια βαθύτερη σχέση; Μήπως η νοήμων συμπεριφορά δεν αντιστοιχεί απλώς στην παραγωγή μακροχρόνιας εντροπίας αλλά στην πραγματικότητα προκύπτει άμεσα από αυτήν; Για να το ανακαλύψουμε, δημιουργήσαμε μια μηχανή λογισμικού που ονομάζεται Entropica, σχεδιασμένη για να μεγιστοποιεί την παραγωγή μακροχρόνιας εντροπίας οποιουδήποτε συστήματος μέσα στο οποίο θα βρεθεί. Κατά εκπληκτικό τρόπο, η Entropica μπόρεσε να περάσει πολλαπλά τεστ ζωϊκής νοημοσύνης, να παίξει ανθρώπινα παιχνίδια, ακόμη και να κερδίσει χρήματα στο χρηματιστήριο, όλα αυτά χωρίς κάποια σχετική οδηγία. Αυτά είναι μερικά παραδείγματα της Entropica εν δράσει.
(Video) Narrator: Recent research in cosmology has suggested that universes that produce more disorder, or "entropy," over their lifetimes should tend to have more favorable conditions for the existence of intelligent beings such as ourselves. But what if that tentative cosmological connection between entropy and intelligence hints at a deeper relationship? What if intelligent behavior doesn't just correlate with the production of long-term entropy, but actually emerges directly from it? To find out, we developed a software engine called Entropica, designed to maximize the production of long-term entropy of any system that it finds itself in. Amazingly, Entropica was able to pass multiple animal intelligence tests, play human games, and even earn money trading stocks, all without being instructed to do so. Here are some examples of Entropica in action.
Ακριβώς όπως ένας άνθρωπος στέκεται όρθιος χωρίς να πέφτει, βλέπουμε εδώ την Entropica να ισορροπεί αυτόματα μια ράβδο χρησιμοποιώντας ένα καροτσάκι. Αυτή η συμπεριφορά είναι εκπληκτική, εν μέρει επειδή δεν θέσαμε ποτέ κάποιον στόχο στην Entropica. Απλώς αποφάσισε μόνη της να ισορροπήσει τη ράβδο. Αυτή η ικανότητα εξισορρόπησης θα έχει εφαρμογές στα ανθρωποειδή ρομπότ και στις τεχνολογίες ανθρώπινης υποστήριξης. Όπως κάποια ζώα μπορούν να χρησιμοποιούν αντικείμενα στο περιβάλλον τους ως εργαλεία για να φθάσουν σε στενούς χώρους, έτσι κι εδώ βλέπουμε την Entropica, και πάλι με δική της πρωτοβουλία, να μπορεί να μετακινεί έναν μεγάλο δίσκο, που αντιπροσωπεύει ένα ζώο ώστε να κάνει τον μικρό δίσκο, που αντιπροσωπεύει ένα εργαλείο, να φθάσει σε έναν περιορισμένο χώρο κρατώντας έναν τρίτο δίσκο και να απελευθερώσει τον τρίτο δίσκο από την αρχική, σταθερή του θέση. Αυτή η ικανότητα χρήσης εργαλείων θα βρει εφαρμογή στις έξυπνες κατασκευές και στη γεωργία. Επιπλέον, ακριβώς όπως κάποια άλλα ζώα μπορούν να συνεργαστούν τραβώντας τις άκρες ενός σκοινιού ταυτόχρονα για να απελευθερώσουν τροφή, εδώ βλέπουμε ότι η Entropica μπορεί να πραγματοποιήσει μια πρότυπη εκδοχή αυτής της εργασίας. Αυτή η συνεργατική ικανότητα έχει ενδιαφέρουσες επιπτώσεις στον οικονομικό σχεδιασμό και σε μια πληθώρα άλλων πεδίων.
Just like a human standing upright without falling over, here we see Entropica automatically balancing a pole using a cart. This behavior is remarkable in part because we never gave Entropica a goal. It simply decided on its own to balance the pole. This balancing ability will have appliactions for humanoid robotics and human assistive technologies. Just as some animals can use objects in their environments as tools to reach into narrow spaces, here we see that Entropica, again on its own initiative, was able to move a large disk representing an animal around so as to cause a small disk, representing a tool, to reach into a confined space holding a third disk and release the third disk from its initially fixed position. This tool use ability will have applications for smart manufacturing and agriculture. In addition, just as some other animals are able to cooperate by pulling opposite ends of a rope at the same time to release food, here we see that Entropica is able to accomplish a model version of that task. This cooperative ability has interesting implications for economic planning and a variety of other fields.
Η Entropica μπορεί να εφαρμοστεί ευρέως σε μια πληθώρα τομέων. Για παράδειγμα, εδώ την βλέπουμε να παίζει με επιτυχία μια παρτίδα πονγκ με τον εαυτό της, παρουσιάζοντας τις δυνατότητές της στο παιχνίδι. Εδώ βλέπουμε την Entropica να συντονίζει νέες συνδέσεις σε ένα κοινωνικό δίκτυο όπου οι φίλοι συνεχώς διακόπτουν τις επαφές τους, και να διατηρεί με επιτυχία το δίκτυο συνδεδεμένο. Αυτή η ίδια ικανότητα συντονισμού ενός δικτύου έχει εφαρμογή και στους κλάδους περίθαλψης, ενέργειας και νοημοσύνης. Εδώ βλέπουμε την Entropica να κατευθύνει τις διαδρομές ενός στόλου πλοίων, να ανακαλύπτει και να αξιοποιεί με επιτυχία τη Διώρυγα του Παναμά ώστε να επεκτείνει την πρόσβασή της από τον Ατλαντικό στον Ειρηνικό. Ομοίως, η Entropica εφαρμόζεται ευρέως σε προβλήματα αυτόνομης άμυνας, υλικοτεχνικής υποστήριξης και μεταφορών.
Entropica is broadly applicable to a variety of domains. For example, here we see it successfully playing a game of pong against itself, illustrating its potential for gaming. Here we see Entropica orchestrating new connections on a social network where friends are constantly falling out of touch and successfully keeping the network well connected. This same network orchestration ability also has applications in health care, energy, and intelligence. Here we see Entropica directing the paths of a fleet of ships, successfully discovering and utilizing the Panama Canal to globally extend its reach from the Atlantic to the Pacific. By the same token, Entropica is broadly applicable to problems in autonomous defense, logistics and transportation.
Τέλος, εδώ βλέπουμε την Entropica να ανακαλύπτει και να εφαρμόζει αυθόρμητα μια στρατηγική «αγοράζω φτηνά-πουλάω ακριβά» σε εικονικές μετοχικές συναλλαγές, αυξάνοντας με επιτυχία τα περιουσιακά στοιχεία υπό διαχείριση εκθετικά. Αυτή η ικανότητα διαχείρισης κινδύνου θα έχει ευρεία εφαρμογή στα χρηματοοικονομικά και τις ασφάλειες.
Finally, here we see Entropica spontaneously discovering and executing a buy-low, sell-high strategy on a simulated range traded stock, successfully growing assets under management exponentially. This risk management ability will have broad applications in finance and insurance.
Άλεξ Βίσνερ-Γκρος: Αυτό λοιπόν που μόλις είδατε είναι ότι μια πληθώρα ειδικών ανθρώπινων νοημόνων γνωσιακών συμπεριφορών όπως η χρήση εργαλείων, η όρθια στάση και η κοινωνική συνεργασία, όλες τους πηγάζουν από μία απλή εξίσωση, η οποία οδηγεί ένα σύστημα στη μεγιστοποίηση της μελλοντικής του ελευθερίας δράσης.
Alex Wissner-Gross: So what you've just seen is that a variety of signature human intelligent cognitive behaviors such as tool use and walking upright and social cooperation all follow from a single equation, which drives a system to maximize its future freedom of action.
Τώρα, εδώ υπάρχει μια βαθειά ειρωνεία. Πηγαίνοντας πίσω, όταν άρχισε να χρησιμοποιείται ο όρος ρομπότ, στο θεατρικό έργο «RUR» υπήρχε πάντα μια σκέψη ότι αν αναπτύσσαμε μηχανική νοημοσύνη, θα συνέβαινε μια κυβερνητική εξέγερση. Οι μηχανές θα ξεσηκώνονταν εναντίον μας. Μία κύρια συνέπεια αυτής της εργασίας είναι ότι ίσως όλες αυτές τις δεκαετίες, είχαμε την όλη ιδέα της κυβερνητικής εξέγερσης αντίστροφα. Δεν είναι ότι πρώτα οι μηχανές αποκτούν νοημοσύνη και μετά γίνονται μεγαλομανείς και προσπαθούν να καταλάβουν τον κόσμο. Γίνεται μάλλον το αντίθετο, ότι η προσπάθεια να πάρουν τον έλεγχο όλων των πιθανών μελλόντων είναι μια πιο θεμελιώδης αρχή από αυτή της νοημοσύνης, ότι η γενική νοημοσύνη ενδέχεται στην πραγματικότητα να αναδύεται απευθείας από αυτό το είδος απόκτησης ελέγχου, παρά το αντίθετο.
Now, there's a profound irony here. Going back to the beginning of the usage of the term robot, the play "RUR," there was always a concept that if we developed machine intelligence, there would be a cybernetic revolt. The machines would rise up against us. One major consequence of this work is that maybe all of these decades, we've had the whole concept of cybernetic revolt in reverse. It's not that machines first become intelligent and then megalomaniacal and try to take over the world. It's quite the opposite, that the urge to take control of all possible futures is a more fundamental principle than that of intelligence, that general intelligence may in fact emerge directly from this sort of control-grabbing, rather than vice versa.
Μια άλλη σημαντική συνέπεια είναι η επιδίωξη στόχων. Με ρωτάνε συχνά πώς συνάγεται η ικανότητα επιδίωξης στόχων από αυτό το είδος πλαισίου. Και η απάντηση είναι, η ικανότητα επιδίωξης στόχων θα συνάγεται άμεσα από αυτό με την εξής έννοια: ακριβώς όπως θα περνούσατε μέσα από ένα τούνελ, ένα μποτιλιάρισμα στη μελλοντική σας διαδρομή, ώστε να επιτύχετε πολλούς άλλους διαφορετικούς στόχους αργότερα, ή ακριβώς όπως θα επενδύατε σε έναν χρηματοοικονομικό τίτλο, μειώνοντας τη βραχυπρόθεσμη ρευστότητά σας ώστε να αυξήσετε την περιουσία σας μακροπρόθεσμα, η επιδίωξη στόχων αναδύεται απευθείας από την μακροχρόνια επιθυμία αύξησης της μελλοντικής ελευθερίας δράσης.
Another important consequence is goal seeking. I'm often asked, how does the ability to seek goals follow from this sort of framework? And the answer is, the ability to seek goals will follow directly from this in the following sense: just like you would travel through a tunnel, a bottleneck in your future path space, in order to achieve many other diverse objectives later on, or just like you would invest in a financial security, reducing your short-term liquidity in order to increase your wealth over the long term, goal seeking emerges directly from a long-term drive to increase future freedom of action.
Τέλος, ο Ρίτσαρντ Φάινμαν, ο διάσημος φυσικός, έγραψε κάποτε ότι αν ο ανθρώπινος πολιτισμός καταστρεφόταν και μπορούσατε να κληροδοτήσετε μία μόνο ιδέα στους απογόνους μας για να τους βοηθήσει να ξαναφτιάξουν πολιτισμό, αυτή η ιδέα θα έπρεπε να ήταν ότι όλη η ύλη γύρω μας είναι φτιαγμένη από μικροσκοπικά στοιχεία που ελκύουν το ένα το άλλο όταν είναι μακριά αλλά απωθούνται όταν είναι κοντά. Η ισοδύναμή δήλωση που θα κληροδοτούσα εγώ στους απογόνους για να τους βοηθήσω να δημιουργήσουν τεχνητή νοημοσύνη ή για να τους βοηθήσω να κατανοήσουν την ανθρώπινη νοημοσύνη, είναι η εξής: η νοημοσύνη πρέπει να θεωρηθεί ως μια φυσική διαδικασία που προσπαθεί να μεγιστοποιήσει τη μελλοντική ελευθερία δράσης και να αποφύγει τους περιορισμούς στο μέλλον της.
Finally, Richard Feynman, famous physicist, once wrote that if human civilization were destroyed and you could pass only a single concept on to our descendants to help them rebuild civilization, that concept should be that all matter around us is made out of tiny elements that attract each other when they're far apart but repel each other when they're close together. My equivalent of that statement to pass on to descendants to help them build artificial intelligences or to help them understand human intelligence, is the following: Intelligence should be viewed as a physical process that tries to maximize future freedom of action and avoid constraints in its own future.
Σας ευχαριστώ πάρα πολύ.
Thank you very much.
(Χειροκρότημα)
(Applause)