Τα επόμενα χρόνια η Τεχνητή Νοημοσύνη, ενδεχομένως, να αλλάξει τη ζωή σας και μάλλον ολόκληρο τον κόσμο. Δυσκολευόμαστε, βέβαια, να συμφωνήσουμε με ποιον τρόπο θα γίνει. Ακολουθούν αποσπάσματα από μια συνέντευξη στο Παγκόσμιο Οικονομικό Φόρουμ, του γνωστού καθηγητή πληροφορικής και ειδικού στην ΤΝ, Στιούαρτ Ράσελ, που μας βοηθά να ξεχωρίσουμε το λογικό από το παράλογο.
Υπάρχει μεγάλη διαφορά ανάμεσα στο να ζητήσετε από άνθρωπο να κάνει κάτι και να δώσετε αυτό το κάτι σε ένα σύστημα ΤΝ να το κάνει. Όταν ζητάτε από έναν άνθρωπο να σας φέρει έναν καφέ, δεν ενοείτε ότι αυτό θα πρέπει να γίνει ο στόχος ζωής του, και τίποτε άλλο δεν έχει σημασία, ακόμη και αν χρειαστεί να σκοτώσει τους πάντες στα Starbucks για να σας φέρει τον καφέ πριν κλείσει το κατάστημα. Όχι, δεν σημαίνει αυτό. Σημαίνει ότι όλα τα άλλα πράγματα τα οποία μας ενδιαφέρουν θα πρέπει να ληφθούν υπόψη.
Το πρόβλημα με τον τρόπο που φτιάχνουμε συστήματα ΤΝ σήμερα είναι ότι τους δίνουμε ένα πολύ συγκεκριμένο στόχο. Οι αλγόριθμοι μας ζητούν τα πάντα να είναι συγκεκριμένα στον στόχο. Αν πείτε: «Μπορούμε να διορθώσουμε την οξίνιση των ωκεανών;» Ναι, μπορούμε με μια καταλυτική αντίδραση που θα ήταν εξαιρετικά αποτελεσματική, αλλά θα κατανάλωνε το ένα τέταρτο του οξυγόνου της ατμόσφαιρας, πράγμα που, προφανώς, θα μας σκότωνε αρκετά αργά και δυσάρεστα, μέσα σε μερικές ώρες.
Πώς αποφεύγουμε αυτό το πρόβλημα, τότε; Θα λέγατε, εντάξει, ας είμαστε προσεκτικοί με τη συγκεκριμενοποίηση του στόχου, ας μην ξοδέψουμε όλο το οξυγόνο της ατμόσφαιρας. Τότε, φυσικά, κάποια παρενέργεια της αντίδρασης στη θάλασσα θα δηλητηρίαζε όλα τα ψάρια. Βασικά, δεν εννοούσαμε να σκοτωθούν ούτε τα ψάρια. Τότε, μήπως τα φύκια; Όχι, ούτε να κάνουμε κάτι που θα σκοτώσει όλα τα φύκια. Και ούτω καθ′ εξής.
Ο λόγος που δεν χρειάζεται να το κάνουμε αυτό με ανθρώπους είναι ότι οι άνθρωποι, συχνά, ξέρουν ότι δεν ξέρουν όλα τα πράγμα που μας ενδιαφέρουν. Αν ζητήσετε από έναν άνθρωπο να σας φέρει έναν καφέ, και τυχαίνει να βρίσκεστε στο ξενοδοχείο George Sand του Παρισιού, όπου ένας καφές κάνει 13 ευρώ, απολύτως λογικά θα επιστρέψει και θα σας πει: «Κάνει 13 ευρώ, σίγουρα τον θέλεις ή να πάω παραδίπλα να σου πάρω έναν;» Είναι απολύτως λογικό να το κάνει ένας άνθρωπος αυτό. Αν θέλω να βάψω το σπίτι σας θα ρωτήσω: «Πειράζει αν βγάλω τις σωληνώσεις και τις ξαναβάλω μετά;» Δεν το θεωρούμε αυτό τρομερά περίπλοκη ικανότητα, αλλά τα συστήματα ΤΝ δεν την έχουν, γιατί όπως τα φτιάχνουμε τώρα, πρέπει να γνωρίζουν τον πλήρη το στόχο. Αν φτιάξουμε συστήματα που να ξέρουν ότι δεν ξέρουν ποιος είναι ο στόχος, αρχίζουν να συμπεριφέρονται σαν να ζητούν άδεια πριν εξαντλήσουν όλο το οξυγόνο της ατμόσφαιρας.
Με αυτή την έννοια, ο έλεγχος σε ένα σύστημα ΤΝ προκύπτει από την αβεβαιότητα της μηχανής για το ποιος είναι ο πραγματικός στόχος. Όταν φτιάχνεις μηχανές που πιστεύουν με βεβαιότητα ότι κατέχουν το στόχο, τότε εντοπίζεις αυτού του είδους την ψυχοπαθητική συμπεριφορά. Νομίζω πως βλέπουμε το ίδιο πράγμα στους ανθρώπους.
Τι συμβαίνει όταν μια ΤΝ γενικού σκοπού χτυπάει την πραγματική οικονομία; Πώς αλλάζουν τα πράγματα; Μπορούμε να προσαρμοστούμε; Αυτό είναι ένα πολύ παλιό θέμα. Είναι απίστευτο ότι ο Αριστοτέλης γράφει ότι αν είχαμε πλήρως αυτόματες κλωστοϋφαντουργικές μηχανές και πένες που θα έπαιζαν μουσική χωρίς ανθρώπους, τότε δε θα χρειαζόμασταν καθόλου εργάτες.
Η ιδέα αυτή, η οποία είναι του Κέυνς, νομίζω, ο οποίος την αποκάλεσε τεχνολογική ανεργία, το 1930, είναι πολύ προφανής στον κόσμο. Πιστεύουν πως, ναι, φυσικά, αν η μηχανή κάνει τη δουλειά, τότε θα μείνω άνεργος.
Σκεφτείτε τις αποθήκες που χρησιμοποιούν σήμερα οι εταιρείες για το ηλεκτρονικό εμπόριο, είναι ημι-αυτόματες. Πώς δουλεύει αυτό: Σε μια παλιά αποθήκη, όπου υπάρχουν στοίβες από πράγματα παντού, οι άνθρωποι πάνε και ψαχουλεύουν, βρίσκουν αυτό που θέλουν και το στέλνουν. Υπάρχει ένα ρομπότ που πάει και παίρνει από το ράφι αποθήκευσης το αντικείμενο που χρειάζεστε, αλλά ο άνθρωπος πρέπει να μαζέψει το αντικείμενο από τον κάδο ή από το ράφι, γιατί παραμένει δύκολο. Αλλά, όμως, θα φτιάχνατε ένα ρομπότ αρκετά ικανό ώστε να επιλέξει σχεδόν οτιδήποτε αντικείμενο ανάμεσα σε χιλιάδες; Θα καταργούσε 3 ή 4 εκατομμύρια δουλειές διά μιας;
Ο Ε. Μ. Φόρστερ έγραψε μια ενδιαφέρουσα ιστορία, στην οποία όλοι εξαρτώνται πλήρως από τις μηχανές. Η ιστορία στην πραγματικότητα μιλάει για το γεγονός ότι αν αφήναμε να διαχειριστούν τον πολιτισμό μας οι μηχανές, θα χάναμε το κίνητρο να τον κατανοήσουμε εμείς οι ίδιοι, ή να διδάξουμε την επόμενη γενιά το πώς να τον κατανοήσει. Δείτε το σαν τη σύγχρονη εκδοχή της ταινίας «WALL-E» όπου όλοι είναι αποδυναμωμένοι και οι μηχανές τους φέρονται σαν σε νήπια, πράγμα που δεν ήταν δυνατό μέχρι τώρα.
Μεγάλο μέρος του πολιτισμού μας βρίσκεται στα βιβλία, αλλά τα βιβλία δεν θα τον δημιουργήσουν αντί για μας. Εμείς πρέπει να διδάξουμε την επόμενη γενιά. Αν το υπολογίσετε, είναι περίπου ένα τρισ. έτη διδασκαλίας και μάθησης, μια συνεχής αλυσίδα που πάει πίσω δεκάδες χιλιάδες γενιές. Τι θα γίνει αν η αλυσίδα σπάσει;
Νομίζω ότι πρέπει να καταλάβουμε κάτι όσο η ΤΝ προχωράει. Η πραγματική ημερομηνία άφιξης της ΤΝ γενικού σκοπού, δεν θα είναι μια συγκεκριμένη μέρα. Δεν ισχύει, επίσης, ότι είναι όλα ή τίποτα. Η επίδρασή της θα είναι ολοένα σημαντικότερη. Έτσι, με κάθε πρόοδο της ΤΝ, το εύρος των εφαρμογών της μεγαλώνει σημαντικά.
Με αυτήν την έννοια, οι περισσότεροι ειδικοί λένε ότι μέχρι το τέλος του αιώνα πολύ πιθανόν να έχουμε ΤΝ γενικού σκοπού. Η μέση εκτίμηση είναι γύρω στο 2045. Εγώ τείνω να είμαι λίγο πιο συντηρητικός. Το πρόβλημα είναι δυσκολότερο απ′ όσο νομίζουμε.
Μου αρέσει ότι ο Τζον Μακάφι, ένας εκ των ιδρυτών της ΤΝ, όταν ρωτήθηκε, είπε, περίπου ανάμεσα σε 5 και 500 χρόνια. Θα χρειαστούμε, βέβαια, αρκετούς Αϊνστάιν για να το καταφέρουμε.