Σήμερα θα σας μιλήσω για την ΤΝ [Τεχνητή Νοημοσύνη] κι εμάς. Οι ερευνητές ΤΝ πάντα έλεγαν ότι εμείς οι άνθρωποι δεν χρειάζεται να ανησυχούμε, γιατί μόνο οι επουσιώδεις εργασίες θα αναληφθούν από τις μηχανές. Είναι αυτό πραγματικά αληθές; Είπαν επίσης ότι η ΤΝ θα δημιουργήσει νέες θέσεις εργασίας, ώστε όσοι χάσουν τη δουλειά τους να βρουν μία άλλη. Φυσικά. Αλλά το πραγματικό ερώτημα είναι: Πόσοι από αυτούς που μπορεί να χάσουν τη δουλειά τους από την ΤΝ θα μπορέσουν να βρουν μία νέα, ειδικά όταν η ΤΝ είναι αρκετά έξυπνη, ώστε να μαθαίνει καλύτερα από εμάς;
Today, I'm going to talk about AI and us. AI researchers have always said that we humans do not need to worry, because only menial jobs will be taken over by machines. Is that really true? They have also said that AI will create new jobs, so those who lose their jobs will find a new one. Of course. But the real question is: How many of those who may lose their jobs to AI will be able to land a new one, especially when AI is smart enough to learn better than most of us?
Σας ρωτώ το εξής: Πόσοι από εσάς πιστεύετε ότι η ΤΝ θα περάσει τις εισαγωγικές εξετάσεις ενός κορυφαίου πανεπιστημίου έως το 2020; Αα, τόσοι πολλοί. Εντάξει. Μερικοί από εσάς μπορεί να πουν: «Φυσικά, ναι!». Τώρα η μοναδικότητα είναι το θέμα. Και μερικοί άλλοι μπορεί να πουν: «Ίσως, γιατί η ΤΝ κέρδισε ήδη έναν κορυφαίο Go παίκτη». Και άλλοι μπορεί να πουν: «Όχι, ποτέ». Αυτό σημαίνει ότι δεν γνωρίζουμε ακόμα την απάντηση, σωστά; Αυτός είναι και ο λόγος που ξεκίνησα το πρόγραμμα «Ρομπότ Todai», δημιουργώντας ΤΝ που πετυχαίνει στις εισαγωγικές εξετάσεις του Πανεπιστημίου του Τόκιο, του κορυφαίου πανεπιστημίου στην Ιαπωνία.
Let me ask you a question: How many of you think that AI will pass the entrance examination of a top university by 2020? Oh, so many. OK. So some of you may say, "Of course, yes!" Now singularity is the issue. And some others may say, "Maybe, because AI already won against a top Go player." And others may say, "No, never. Uh-uh." That means we do not know the answer yet, right? So that was the reason why I started Todai Robot Project, making an AI which passes the entrance examination of the University of Tokyo, the top university in Japan.
Αυτό είναι το ρομπότ μας Todai. Και, φυσικά, ο εγκέφαλος του ρομπότ λειτουργεί σε απομακρυσμένο διακομιστή. Αυτή τη στιγμή γράφει μία έκθεση 600 λέξεων για το ναυτιλιακό εμπόριο στον 17ο αιώνα. Πώς σας φαίνεται;
This is our Todai Robot. And, of course, the brain of the robot is working in the remote server. It is now writing a 600-word essay on maritime trade in the 17th century. How does that sound?
Γιατί έβαλα τις εισαγωγικές εξετάσεις ως σημείο αναφοράς; Διότι σκέφτηκα ότι έπρεπε να μελετήσουμε την απόδοση της ΤΝ σε σύγκριση με τον άνθρωπο, ειδικά σε ό,τι αφορά τις δεξιότητες και την εμπειρογνωμοσύνη, που πιστεύεται ότι αποκτώνται μόνο από τον άνθρωπο και μόνο μέσω της εκπαίδευσης. Για να εισαχθεί κάποιος στο Todai, το Πανεπιστήμιο του Τόκιο, πρέπει να περάσει δύο διαφορετικά είδη εξετάσεων. Το πρώτο είναι οι εθνικές τυποποιημένες εξετάσεις τύπου πολλαπλής επιλογής. Πρέπει να απαντήσετε σε επτά θέματα και να επιτύχετε υψηλή βαθμολογία -θα έλεγα ποσοστό ακρίβειας 85% ή περισσότερο- για να περάσετε στην επόμενη φάση γραπτών εξετάσεων από το ίδιο το Todai.
Why did I take the entrance exam as its benchmark? Because I thought we had to study the performance of AI in comparison to humans, especially on the skills and expertise which are believed to be acquired only by humans and only through education. To enter Todai, the University of Tokyo, you have to pass two different types of exams. The first one is a national standardized test in multiple-choice style. You have to take seven subjects and achieve a high score -- I would say like an 85 percent or more accuracy rate -- to be allowed to take the second stage written test prepared by Todai.
Επιτρέψτε μου να σας εξηγήσω πώς λειτουργεί η σύγχρονη ΤΝ, έχοντας ως παράδειγμα το παιχνίδι Jeopardy!. Αυτή είναι μία τυπική Jeopardy! ερώτηση: «Η τελευταία συμφωνία του Μότσαρτ έχει το ίδιο όνομα με αυτόν τον πλανήτη». Είναι ενδιαφέρον το ότι οι ερωτήσεις του Jeopardy! πάντα ρωτούν για «αυτό»: «αυτόν» τον πλανήτη, «αυτή» την χώρα, «αυτός» ο ροκ τραγουδιστής, και ούτω καθεξής. Με άλλα λόγια, το Jeopardy! δεν ρωτάει πολλούς διαφορετικούς τύπους ερωτήσεων, αλλά έναν μόνο τύπο, που τον ονομάζουμε «κατασκευασμένες ερωτήσεις».
So let me first explain how modern AI works, taking the "Jeopardy!" challenge as an example. Here is a typical "Jeopardy!" question: "Mozart's last symphony shares its name with this planet." Interestingly, a "Jeopardy!" question always asks, always ends with "this" something: "this" planet, "this" country, "this" rock musician, and so on. In other words, "Jeopardy!" doesn't ask many different types of questions, but a single type, which we call "factoid questions."
Με την ευκαιρία, γνωρίζετε την απάντηση; Αν δεν την γνωρίζετε και αν θέλετε να την μάθετε, τι θα κάνατε; Θα την αναζητούσατε στη Google, σωστά; Φυσικά. Γιατί όχι; Αλλά θα πρέπει να επιλέξετε τις κατάλληλες λέξεις-κλειδιά, όπως «Μότσαρτ», «τελευταία» και «συμφωνία» για αναζήτηση. Στην ουσία, το ίδιο κάνει και η μηχανή. Αυτή η σελίδα wiki θα βγει ως πρώτο αποτέλεσμα. Μετά, η μηχανή θα διαβάσει τη σελίδα. Ωχ, όχι.
By the way, do you know the answer? If you do not know the answer and if you want to know the answer, what would you do? You Google, right? Of course. Why not? But you have to pick appropriate keywords like "Mozart," "last" and "symphony" to search. The machine basically does the same. Then this Wikipedia page will be ranked top. Then the machine reads the page. No, uh-uh.
Δυστυχώς, καμία από τις σύγχρονες ΤΝ, συμπεριλαμβανομένων των Watson, Siri και του ρομπότ Todai, δεν μπορεί να διαβάσει. Αλλά είναι πολύ καλές στην αναζήτηση και βελτιστοποίηση. Θα αναγνωρίσει ότι οι λέξεις-κλειδιά «Μότσαρτ», «τελευταία» και «συμφωνία» εμφανίζονται σε μεγάλο βαθμό εδώ. Άρα, αν μπορέσει να βρει μία λέξη που να είναι πλανήτης, η οποία συνυπάρχει με αυτές τις λέξεις-κλειδιά, αυτή πρέπει να είναι και η απάντηση. Αυτός είναι ο τρόπος με τον οποίο το Watson βρίσκει την απάντηση «Δίας».
Unfortunately, none of the modern AIs, including Watson, Siri and Todai Robot, is able to read. But they are very good at searching and optimizing. It will recognize that the keywords "Mozart," "last" and "symphony" are appearing heavily around here. So if it can find a word which is a planet and which is co-occurring with these keywords, that must be the answer. This is how Watson finds the answer "Jupiter," in this case.
Το ρομπότ Todai λειτουργεί παρόμοια, αλλά λίγο πιο έξυπνα, απαντώντας με ναι/όχι ιστορικές ερωτήσεις, όπως «Ο Καρλομάγνος απώθησε τους Μαγυάρους», σωστό ή λάθος; Το ρομπότ μας ξεκινά να παράγει μία κατασκευασμένη ερώτηση, όπως «Ο Καρλομάγνος απώθησε [αυτά τα πρόσωπα]» από μόνο του. Τότε το «Άβαροι» και όχι το «Μαγυάροι» εμφανίζεται πρώτο στα αποτελέσματα. Αυτή η πρόταση είναι πιθανότατα λάθος. Το ρομπότ μας δεν διαβάζει, ούτε καταλαβαίνει, αλλά είναι στατιστικά σωστό σε πολλές περιπτώσεις.
Our Todai Robot works similarly, but a bit smarter in answering history yes-no questions, like, "'Charlemagne repelled the Magyars.' Is this sentence true or false?" Our robot starts producing a factoid question, like: "Charlemagne repelled [this person type]" by itself. Then, "Avars" but not "Magyars" is ranked top. This sentence is likely to be false. Our robot does not read, does not understand, but it is statistically correct in many cases.
Για το γραπτό της δεύτερης φάσης, απαιτείται να γράψετε μία έκθεση 600 λέξεων σαν αυτή εδώ:
For the second stage written test, it is required to write a 600-word essay like this one:
[Συζητήστε την άνοδο και πτώση του ναυτιλιακού εμπορίου στην Ανατολική και Νοτιοανατολική Ασία τον 17ο αιώνα ...]
[Discuss the rise and fall of the maritime trade in East and Southeast Asia in the 17th century ...]
και όπως σας έδειξα νωρίτερα, το ρομπότ μας πήρε τις προτάσεις από σχολικά βιβλία και Wikipedia, τις συνδύασε, και τις βελτιστοποίησε για να φτιάξει μία έκθεση χωρίς να καταλαβαίνει τίποτα.
and as I have shown earlier, our robot took the sentences from the textbooks and Wikipedia, combined them together, and optimized it to produce an essay without understanding a thing.
(Γέλια)
(Laughter)
Αλλά, απροσδόκητα, έγραψε ένα καλύτερο δοκίμιο από τους περισσότερους σπουδαστές.
But surprisingly, it wrote a better essay than most of the students.
(Γέλια)
(Laughter)
Τι γίνεται με τα μαθηματικά; Μία πλήρως αυτόματη μηχανή επίλυσης μαθηματικών αποτελεί ένα όνειρο από τη γέννηση του όρου «τεχνητή νοημοσύνη», αλλά παρέμενε στο επίπεδο της αριθμητικής για πάρα πολύ καιρό. Πέρυσι, επιτέλους πετύχαμε την ανάπτυξη ενός συστήματος που επίλυε προπτυχιακού επιπέδου προβλήματα από την αρχή ως το τέλος, σαν αυτό. Αυτό είναι το πρότυπο πρόβλημα γραμμένο στα ιαπωνικά και έπρεπε να του μάθουμε 2.000 μαθηματικά αξιώματα και 8.000 ιαπωνικές λέξεις για να καταλάβει προβλήματα γραμμένα σε φυσική γλώσσα. Τώρα μεταφράζει το αρχικό πρόβλημα σε μηχανικά αναγνώσιμες φόρμουλες. Περίεργο, αλλά τώρα νομίζω ότι είναι έτοιμο να το επιλύσει. Ξεκίνα. Ναι! Τώρα εκτελεί συμβολικούς υπολογισμούς. Ακόμα πιο περίεργο, αλλά αυτό είναι το πιο συναρπαστικό κομμάτι της μηχανής.
How about mathematics? A fully automatic math-solving machine has been a dream since the birth of the word "artificial intelligence," but it has stayed at the level of arithmetic for a long, long time. Last year, we finally succeeded in developing a system which solved pre-university-level problems from end to end, like this one. This is the original problem written in Japanese, and we had to teach it 2,000 mathematical axioms and 8,000 Japanese words to make it accept the problems written in natural language. And it is now translating the original problems into machine-readable formulas. Weird, but it is now ready to solve it, I think. Go and solve it. Yes! It is now executing symbolic computation. Even more weird, but probably this is the most fun part for the machine.
(Γέλια)
(Laughter)
Τώρα εξάγει μια τέλεια απάντηση, αν και η απόδειξή του είναι αδύνατο να διαβαστεί, ακόμη και από μαθηματικούς. Τέλος πάντων, πέρυσι το ρομπότ μας ήταν μεταξύ των κορυφαίων 1% στη δεύτερη φάση των γραπτών εξετάσεων στα μαθηματικά.
Now it outputs a perfect answer, though its proof is impossible to read, even for mathematicians. Anyway, last year our robot was among the top one percent in the second stage written exam in mathematics.
(Χειροκρότημα)
(Applause)
Σας ευχαριστώ.
Thank you.
Πέρασε, λοιπόν, στο Todai; Όχι, όπως το περίμενα. Γιατί; Επειδή δεν καταλαβαίνει κανένα νόημα. Θα σας δείξω ένα τυπικό λάθος που έκανε στο τεστ Αγγλικών.
So, did it enter Todai? No, not as I expected. Why? Because it doesn't understand any meaning. Let me show you a typical error it made in the English test.
[Νέιτ: Σχεδόν φτάσαμε στο βιβλιοπωλείο. Λίγα λεπτά ακόμα. Σενίλ: Περίμενε. _____. Νέιτ: Ευχαριστώ! Αυτό συμβαίνει πάντα ...]
[Nate: We're almost at the bookstore. Just a few more minutes. Sunil: Wait. ______ . Nate: Thank you! That always happens ...]
Δύο άνθρωποι συζητούν. Για εμάς, που κατανοούμε την κατάσταση -
Two people are talking. For us, who can understand the situation --
[1. «Περπατήσαμε πολύ ώρα». 2. «Σχεδόν φτάσαμε». 3. «Τα παπούτσια φαίνονται ακριβά». 4.«Σου λύθηκε το κορδόνι».]
[1. "We walked for a long time." 2. "We're almost there." 3. "Your shoes look expensive." 4. "Your shoelace is untied."]
Προφανώς το 4 είναι η σωστή απάντηση, σωστά; Αλλά το ρομπότ Todai επέλεξε το 2, ακόμα και μετά την εκμάθηση 15 δισεκατομμυρίων αγγλικών προτάσεων, με τη χρήση τεχνολογιών βαθιάς μάθησης. Ωραία, τώρα λοιπόν μπορεί να καταλάβατε τι εννοούσα: οι σύγχρονες ΤΝ δεν διαβάζουν, δεν κατανοούν. Μόνο φαίνεται ότι αυτό κάνουν.
it is obvious number four is the correct answer, right? But Todai Robot chose number two, even after learning 15 billion English sentences using deep learning technologies. OK, so now you might understand what I said: modern AIs do not read, do not understand. They only disguise as if they do.
Αυτό είναι το γράφημα κατανομής μισού εκατομμυρίου σπουδαστών που έδωσαν το ίδιο τεστ με το ρομπότ Todai. Το ρομπότ Todai είναι στους πρώτους 20% και ήταν ικανό να περάσει σε παραπάνω από το 60% των πανεπιστημίων στην Ιαπωνία - αλλά όχι στο Todai. Αλλά παρατηρείστε ότι είναι πέρα από τη ζώνη των υποψήφιων υπαλλήλων γραφείου.
This is the distribution graph of half a million students who took the same exam as Todai Robot. Now our Todai Robot is among the top 20 percent, and it was capable to pass more than 60 percent of the universities in Japan -- but not Todai. But see how it is beyond the volume zone of to-be white-collar workers.
Μπορεί να νομίζετε ότι ήμουν ευχαριστημένη. Εξάλλου, το ρομπότ μου ξεπερνούσε τους μαθητές παντού. Αντιθέτως, ήμουν ανήσυχη. Πώς στο καλό μπορούσε αυτή η μη έξυπνη μηχανή να ξεπεράσει τους μαθητές - τα παιδιά μας; Σωστά; Αποφάσισα να ερευνήσω τι συνέβαινε στον ανθρώπινο κόσμο. Πήρα εκατοντάδες προτάσεις βιβλίων γυμνασίου και έφτιαξα εύκολα κουίζ πολλαπλών επιλογών, και ζήτησα σε χιλιάδες γυμνασιόπαιδα να τα απαντήσουν.
You might think I was delighted. After all, my robot was surpassing students everywhere. Instead, I was alarmed. How on earth could this unintelligent machine outperform students -- our children? Right? I decided to investigate what was going on in the human world. I took hundreds of sentences from high school textbooks and made easy multiple-choice quizzes, and asked thousands of high school students to answer.
Δείτε ένα παράδειγμα:
Here is an example:
[Ο Βουδισμός εξαπλώθηκε ___, ο Χριστιανισμός σε ___ και Ωκεανία, και το Ισλάμ στην ___ ]
[Buddhism spread to ... , Christianity to ... and Oceania, and Islam to ...]
Φυσικά, τα αρχικά προβλήματα είναι γραμμένα στα Ιαπωνικά, τη μητρική τους γλώσσα.
Of course, the original problems are written in Japanese, their mother tongue.
[ ____ έχει εξαπλωθεί στην Ωκεανία. 1-Ινδουισμός 2-Χριστιανισμός 3-Ισλάμ 4-Βουδισμός]
[ ______ has spread to Oceania. 1. Hinduism 2. Christianity 3. Islam 4. Buddhism ]
Προφανώς, ο Χριστιανισμός είναι η απάντηση, έτσι; Είναι γραμμένο! Και το ρομπότ Todai επέλεξε τη σωστή απάντηση. Αλλά το ένα τρίτο των νέων γυμνασιόπαιδων απέτυχε να απαντήσει σωστά. Νομίζεται ότι αυτό συνέβη μόνο στην Ιαπωνία; Δεν το νομίζω, διότι η Ιαπωνία κατατάσσεται πάντα μεταξύ των κορυφαίων στα τεστ PISA του ΟΟΣΑ, τα οποία μετρούν τις επιδόσεις δεκαπεντάχρονων στα μαθηματικά, στην επιστήμη και την ανάγνωση, κάθε τρία χρόνια.
Obviously, Christianity is the answer, isn't it? It's written! And Todai Robot chose the correct answer, too. But one-third of junior high school students failed to answer this question. Do you think it is only the case in Japan? I do not think so, because Japan is always ranked among the top in OECD PISA tests, measuring 15-year-old students' performance in mathematics, science and reading every three years.
Πιστεύουμε ότι ο καθένας μπορεί να μάθει και να μάθει καλά, εφόσον παρέχουμε καλό εκπαιδευτικό υλικό, ελεύθερα στο Διαδίκτυο, ώστε να είναι προσβάσιμο. Αλλά αυτό το υπέροχο υλικό μπορεί να ωφελήσει μόνο όσους διαβάζουν καλά, το ποσοστό των οποίων μπορεί να είναι πολύ λιγότερο από όσο περιμένουμε. Το πώς εμείς οι άνθρωποι θα συνυπάρξουμε με την ΤΝ, είναι κάτι που πρέπει να σκεφτούμε προσεκτικά, βάσει αξιόπιστων στοιχείων. Ταυτόχρονα, πρέπει να το σκεφτούμε γρήγορα, γιατί ο χρόνος τελειώνει.
We have been believing that everybody can learn and learn well, as long as we provide good learning materials free on the web so that they can access through the internet. But such wonderful materials may benefit only those who can read well, and the percentage of those who can read well may be much less than we expected. How we humans will coexist with AI is something we have to think about carefully, based on solid evidence. At the same time, we have to think in a hurry because time is running out.
Σας ευχαριστώ.
Thank you.
(Χειροκρότημα)
(Applause)
Κρις Άντερσον: Νορίκο, σε ευχαριστούμε.
Chris Anderson: Noriko, thank you.
Νορίκο Αράι: Ευχαριστώ.
Noriko Arai: Thank you.
ΚΑ: Στην ομιλία σου, πολύ ωραία μας έδωσες μια αίσθηση του τρόπου σκέψης της ΤΝ, τι μπορεί να κάνει με εκπληκτικό τρόπο και τι δεν μπορεί. Αλλά, αν κατάλαβα καλά, νομίζεις ότι πράγματι χρειαζόμαστε μια κάπως επείγουσα επανάσταση στην εκπαίδευση που θα βοηθήσει τα παιδιά να κάνουν ό,τι κάνει ο άνθρωπος καλύτερα από την ΤΝ;
CA: In your talk, you so beautifully give us a sense of how AIs think, what they can do amazingly and what they can't do. But -- do I read you right, that you think we really need quite an urgent revolution in education to help kids do the things that humans can do better than AIs?
ΝΑ: Ναι, ναι, ναι. Διότι εμείς οι άνθρωποι μπορούμε να καταλάβουμε το νόημα. Αυτό είναι κάτι πάρα πολύ ελλιπές στην ΤΝ. Αλλά οι περισσότεροι μαθητές «συσκευάζουν» τη γνώση, χωρίς να καταλαβαίνουν το νόημά της και αυτό δεν είναι γνώση αλλά αποστήθιση, το οποίο μπορεί να κάνει και η ΤΝ. Γι' αυτό, πρέπει να σκεφτούμε έναν νέο τρόπο εκπαίδευσης.
NA: Yes, yes, yes. Because we humans can understand the meaning. That is something which is very, very lacking in AI. But most of the students just pack the knowledge without understanding the meaning of the knowledge, so that is not knowledge, that is just memorizing, and AI can do the same thing. So we have to think about a new type of education.
ΚΑ: Μία μετατόπιση από τη γνώση παπαγαλίας στην γνώση με νόημα.
CA: A shift from knowledge, rote knowledge, to meaning.
ΝΑ: Ναι.
NA: Mm-hmm.
ΚΑ: Αυτό είναι μία πρόκληση για τους εκπαιδευτικούς. Σε ευχαριστούμε.
CA: Well, there's a challenge for the educators. Thank you so much.
ΝΑ: Σας ευχαριστώ πολύ.
NA: Thank you very much. Thank you.
(Χειροκρότημα)
(Applause)