Τα επόμενα χρόνια η Τεχνητή Νοημοσύνη, ενδεχομένως, να αλλάξει τη ζωή σας και μάλλον ολόκληρο τον κόσμο. Δυσκολευόμαστε, βέβαια, να συμφωνήσουμε με ποιον τρόπο θα γίνει. Ακολουθούν αποσπάσματα από μια συνέντευξη στο Παγκόσμιο Οικονομικό Φόρουμ, του γνωστού καθηγητή πληροφορικής και ειδικού στην ΤΝ, Στιούαρτ Ράσελ, που μας βοηθά να ξεχωρίσουμε το λογικό από το παράλογο.
In the coming years, artificial intelligence is probably going to change your life, and likely the entire world. But people have a hard time agreeing on exactly how. The following are excerpts from a World Economic Forum interview where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense.
Υπάρχει μεγάλη διαφορά ανάμεσα στο να ζητήσετε από άνθρωπο να κάνει κάτι και να δώσετε αυτό το κάτι σε ένα σύστημα ΤΝ να το κάνει. Όταν ζητάτε από έναν άνθρωπο να σας φέρει έναν καφέ, δεν ενοείτε ότι αυτό θα πρέπει να γίνει ο στόχος ζωής του, και τίποτε άλλο δεν έχει σημασία, ακόμη και αν χρειαστεί να σκοτώσει τους πάντες στα Starbucks για να σας φέρει τον καφέ πριν κλείσει το κατάστημα. Όχι, δεν σημαίνει αυτό. Σημαίνει ότι όλα τα άλλα πράγματα τα οποία μας ενδιαφέρουν θα πρέπει να ληφθούν υπόψη.
There’s a big difference between asking a human to do something and giving that as the objective to an AI system. When you ask a human to get you a cup of coffee, you don’t mean this should be their life’s mission, and nothing else in the universe matters. Even if they have to kill everybody else in Starbucks to get you the coffee before it closes— they should do that. No, that’s not what you mean. All the other things that we mutually care about, they should factor into your behavior as well.
Το πρόβλημα με τον τρόπο που φτιάχνουμε συστήματα ΤΝ σήμερα είναι ότι τους δίνουμε ένα πολύ συγκεκριμένο στόχο. Οι αλγόριθμοι μας ζητούν τα πάντα να είναι συγκεκριμένα στον στόχο. Αν πείτε: «Μπορούμε να διορθώσουμε την οξίνιση των ωκεανών;» Ναι, μπορούμε με μια καταλυτική αντίδραση που θα ήταν εξαιρετικά αποτελεσματική, αλλά θα κατανάλωνε το ένα τέταρτο του οξυγόνου της ατμόσφαιρας, πράγμα που, προφανώς, θα μας σκότωνε αρκετά αργά και δυσάρεστα, μέσα σε μερικές ώρες.
And the problem with the way we build AI systems now is we give them a fixed objective. The algorithms require us to specify everything in the objective. And if you say, can we fix the acidification of the oceans? Yeah, you could have a catalytic reaction that does that extremely efficiently, but it consumes a quarter of the oxygen in the atmosphere, which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.
Πώς αποφεύγουμε αυτό το πρόβλημα, τότε; Θα λέγατε, εντάξει, ας είμαστε προσεκτικοί με τη συγκεκριμενοποίηση του στόχου, ας μην ξοδέψουμε όλο το οξυγόνο της ατμόσφαιρας. Τότε, φυσικά, κάποια παρενέργεια της αντίδρασης στη θάλασσα θα δηλητηρίαζε όλα τα ψάρια. Βασικά, δεν εννοούσαμε να σκοτωθούν ούτε τα ψάρια. Τότε, μήπως τα φύκια; Όχι, ούτε να κάνουμε κάτι που θα σκοτώσει όλα τα φύκια. Και ούτω καθ′ εξής.
So, how do we avoid this problem? You might say, okay, well, just be more careful about specifying the objective— don’t forget the atmospheric oxygen. And then, of course, some side effect of the reaction in the ocean poisons all the fish. Okay, well I meant don’t kill the fish either. And then, well, what about the seaweed? Don’t do anything that’s going to cause all the seaweed to die. And on and on and on.
Ο λόγος που δεν χρειάζεται να το κάνουμε αυτό με ανθρώπους είναι ότι οι άνθρωποι, συχνά, ξέρουν ότι δεν ξέρουν όλα τα πράγμα που μας ενδιαφέρουν. Αν ζητήσετε από έναν άνθρωπο να σας φέρει έναν καφέ, και τυχαίνει να βρίσκεστε στο ξενοδοχείο George Sand του Παρισιού, όπου ένας καφές κάνει 13 ευρώ, απολύτως λογικά θα επιστρέψει και θα σας πει: «Κάνει 13 ευρώ, σίγουρα τον θέλεις ή να πάω παραδίπλα να σου πάρω έναν;» Είναι απολύτως λογικό να το κάνει ένας άνθρωπος αυτό. Αν θέλω να βάψω το σπίτι σας θα ρωτήσω: «Πειράζει αν βγάλω τις σωληνώσεις και τις ξαναβάλω μετά;» Δεν το θεωρούμε αυτό τρομερά περίπλοκη ικανότητα, αλλά τα συστήματα ΤΝ δεν την έχουν, γιατί όπως τα φτιάχνουμε τώρα, πρέπει να γνωρίζουν τον πλήρη το στόχο. Αν φτιάξουμε συστήματα που να ξέρουν ότι δεν ξέρουν ποιος είναι ο στόχος, αρχίζουν να συμπεριφέρονται σαν να ζητούν άδεια πριν εξαντλήσουν όλο το οξυγόνο της ατμόσφαιρας.
And the reason that we don’t have to do that with humans is that humans often know that they don’t know all the things that we care about. If you ask a human to get you a cup of coffee, and you happen to be in the Hotel George Sand in Paris, where the coffee is 13 euros a cup, it’s entirely reasonable to come back and say, well, it’s 13 euros, are you sure you want it, or I could go next door and get one? And it’s a perfectly normal thing for a person to do. To ask, I’m going to repaint your house— is it okay if I take off the drainpipes and then put them back? We don't think of this as a terribly sophisticated capability, but AI systems don’t have it because the way we build them now, they have to know the full objective. If we build systems that know that they don’t know what the objective is, then they start to exhibit these behaviors, like asking permission before getting rid of all the oxygen in the atmosphere.
Με αυτή την έννοια, ο έλεγχος σε ένα σύστημα ΤΝ προκύπτει από την αβεβαιότητα της μηχανής για το ποιος είναι ο πραγματικός στόχος. Όταν φτιάχνεις μηχανές που πιστεύουν με βεβαιότητα ότι κατέχουν το στόχο, τότε εντοπίζεις αυτού του είδους την ψυχοπαθητική συμπεριφορά. Νομίζω πως βλέπουμε το ίδιο πράγμα στους ανθρώπους.
In all these senses, control over the AI system comes from the machine’s uncertainty about what the true objective is. And it’s when you build machines that believe with certainty that they have the objective, that’s when you get this sort of psychopathic behavior. And I think we see the same thing in humans.
Τι συμβαίνει όταν μια ΤΝ γενικού σκοπού χτυπάει την πραγματική οικονομία; Πώς αλλάζουν τα πράγματα; Μπορούμε να προσαρμοστούμε; Αυτό είναι ένα πολύ παλιό θέμα. Είναι απίστευτο ότι ο Αριστοτέλης γράφει ότι αν είχαμε πλήρως αυτόματες κλωστοϋφαντουργικές μηχανές και πένες που θα έπαιζαν μουσική χωρίς ανθρώπους, τότε δε θα χρειαζόμασταν καθόλου εργάτες.
What happens when general purpose AI hits the real economy? How do things change? Can we adapt? This is a very old point. Amazingly, Aristotle actually has a passage where he says, look, if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, then we wouldn’t need any workers.
Η ιδέα αυτή, η οποία είναι του Κέυνς, νομίζω, ο οποίος την αποκάλεσε τεχνολογική ανεργία, το 1930, είναι πολύ προφανής στον κόσμο. Πιστεύουν πως, ναι, φυσικά, αν η μηχανή κάνει τη δουλειά, τότε θα μείνω άνεργος.
That idea, which I think it was Keynes who called it technological unemployment in 1930, is very obvious to people. They think, yeah, of course, if the machine does the work, then I'm going to be unemployed.
Σκεφτείτε τις αποθήκες που χρησιμοποιούν σήμερα οι εταιρείες για το ηλεκτρονικό εμπόριο, είναι ημι-αυτόματες. Πώς δουλεύει αυτό: Σε μια παλιά αποθήκη, όπου υπάρχουν στοίβες από πράγματα παντού, οι άνθρωποι πάνε και ψαχουλεύουν, βρίσκουν αυτό που θέλουν και το στέλνουν. Υπάρχει ένα ρομπότ που πάει και παίρνει από το ράφι αποθήκευσης το αντικείμενο που χρειάζεστε, αλλά ο άνθρωπος πρέπει να μαζέψει το αντικείμενο από τον κάδο ή από το ράφι, γιατί παραμένει δύκολο. Αλλά, όμως, θα φτιάχνατε ένα ρομπότ αρκετά ικανό ώστε να επιλέξει σχεδόν οτιδήποτε αντικείμενο ανάμεσα σε χιλιάδες; Θα καταργούσε 3 ή 4 εκατομμύρια δουλειές διά μιας;
You can think about the warehouses that companies are currently operating for e-commerce, they are half automated. The way it works is that an old warehouse— where you’ve got tons of stuff piled up all over the place and humans go and rummage around and then bring it back and send it off— there’s a robot who goes and gets the shelving unit that contains the thing that you need, but the human has to pick the object out of the bin or off the shelf, because that’s still too difficult. But, at the same time, would you make a robot that is accurate enough to be able to pick pretty much any object within a very wide variety of objects that you can buy? That would, at a stroke, eliminate 3 or 4 million jobs?
Ο Ε. Μ. Φόρστερ έγραψε μια ενδιαφέρουσα ιστορία, στην οποία όλοι εξαρτώνται πλήρως από τις μηχανές. Η ιστορία στην πραγματικότητα μιλάει για το γεγονός ότι αν αφήναμε να διαχειριστούν τον πολιτισμό μας οι μηχανές, θα χάναμε το κίνητρο να τον κατανοήσουμε εμείς οι ίδιοι, ή να διδάξουμε την επόμενη γενιά το πώς να τον κατανοήσει. Δείτε το σαν τη σύγχρονη εκδοχή της ταινίας «WALL-E» όπου όλοι είναι αποδυναμωμένοι και οι μηχανές τους φέρονται σαν σε νήπια, πράγμα που δεν ήταν δυνατό μέχρι τώρα.
There's an interesting story that E.M. Forster wrote, where everyone is entirely machine dependent. The story is really about the fact that if you hand over the management of your civilization to machines, you then lose the incentive to understand it yourself or to teach the next generation how to understand it. You can see “WALL-E” actually as a modern version, where everyone is enfeebled and infantilized by the machine, and that hasn’t been possible up to now.
Μεγάλο μέρος του πολιτισμού μας βρίσκεται στα βιβλία, αλλά τα βιβλία δεν θα τον δημιουργήσουν αντί για μας. Εμείς πρέπει να διδάξουμε την επόμενη γενιά. Αν το υπολογίσετε, είναι περίπου ένα τρισ. έτη διδασκαλίας και μάθησης, μια συνεχής αλυσίδα που πάει πίσω δεκάδες χιλιάδες γενιές. Τι θα γίνει αν η αλυσίδα σπάσει;
We put a lot of our civilization into books, but the books can’t run it for us. And so we always have to teach the next generation. If you work it out, it’s about a trillion person years of teaching and learning and an unbroken chain that goes back tens of thousands of generations. What happens if that chain breaks?
Νομίζω ότι πρέπει να καταλάβουμε κάτι όσο η ΤΝ προχωράει. Η πραγματική ημερομηνία άφιξης της ΤΝ γενικού σκοπού, δεν θα είναι μια συγκεκριμένη μέρα. Δεν ισχύει, επίσης, ότι είναι όλα ή τίποτα. Η επίδρασή της θα είναι ολοένα σημαντικότερη. Έτσι, με κάθε πρόοδο της ΤΝ, το εύρος των εφαρμογών της μεγαλώνει σημαντικά.
I think that’s something we have to understand as AI moves forward. The actual date of arrival of general purpose AI— you’re not going to be able to pinpoint, it isn’t a single day. It’s also not the case that it’s all or nothing. The impact is going to be increasing. So with every advance in AI, it significantly expands the range of tasks.
Με αυτήν την έννοια, οι περισσότεροι ειδικοί λένε ότι μέχρι το τέλος του αιώνα πολύ πιθανόν να έχουμε ΤΝ γενικού σκοπού. Η μέση εκτίμηση είναι γύρω στο 2045. Εγώ τείνω να είμαι λίγο πιο συντηρητικός. Το πρόβλημα είναι δυσκολότερο απ′ όσο νομίζουμε.
So in that sense, I think most experts say by the end of the century, we’re very, very likely to have general purpose AI. The median is something around 2045. I'm a little more on the conservative side. I think the problem is harder than we think.
Μου αρέσει ότι ο Τζον Μακάφι, ένας εκ των ιδρυτών της ΤΝ, όταν ρωτήθηκε, είπε, περίπου ανάμεσα σε 5 και 500 χρόνια. Θα χρειαστούμε, βέβαια, αρκετούς Αϊνστάιν για να το καταφέρουμε.
I like what John McAfee, he was one of the founders of AI, when he was asked this question, he said, somewhere between five and 500 years. And we're going to need, I think, several Einsteins to make it happen.