Today, I'm going to talk about AI and us. AI researchers have always said that we humans do not need to worry, because only menial jobs will be taken over by machines. Is that really true? They have also said that AI will create new jobs, so those who lose their jobs will find a new one. Of course. But the real question is: How many of those who may lose their jobs to AI will be able to land a new one, especially when AI is smart enough to learn better than most of us?
Astăzi voi vorbi despre IA și despre noi. Cercetătorii IA au spus mereu că oamenii nu au de ce se teme, pentru că numai muncile fizice vor fi preluate de mașini. E oare adevărat? Au mai spus și că IA va crea noi locuri de muncă, așa că cei care își vor pierde slujba, vor găsi una nouă. Desigur. Dar adevărata întrebare e: Câți dintre acei care își vor pierde slujbele din cauza IA vor putea să primească una nouă, mai ales când IA poate să învețe mai bine decât mulți dintre noi.
Let me ask you a question: How many of you think that AI will pass the entrance examination of a top university by 2020? Oh, so many. OK. So some of you may say, "Of course, yes!" Now singularity is the issue. And some others may say, "Maybe, because AI already won against a top Go player." And others may say, "No, never. Uh-uh." That means we do not know the answer yet, right? So that was the reason why I started Todai Robot Project, making an AI which passes the entrance examination of the University of Tokyo, the top university in Japan.
Să vă întreb ceva: Câți credeți că inteligența artficială va trece admiterea unei universități de top până în 2020? OK, deci mulți. OK. Unii dintre voi ați spune: „Sigur, da!” Acum singularitatea e problema. Iar alții ar spune „Poate, pentru ca IA a câștigat deja împotriva unui jucător Go profesionist.” Iar alții ar spune: „Nu, niciodată. Nu-nu.” Asta însemnă că nu știm încă răspunsul, nu? De aceea am început proiectul Todai Robot, făcând un robot care să treacă examenul de admitere al Universității din Tokyo, cea mai bună universitate din Japonia.
This is our Todai Robot. And, of course, the brain of the robot is working in the remote server. It is now writing a 600-word essay on maritime trade in the 17th century. How does that sound?
Acesta este robotul Todai. Și, desigur, creierul său lucrează din serverul de la distanță. Acum scrie eseuri de 600 de cuvinte despre schimburile maritime din secolul al XVII-lea. Cum sună asta?
Why did I take the entrance exam as its benchmark? Because I thought we had to study the performance of AI in comparison to humans, especially on the skills and expertise which are believed to be acquired only by humans and only through education. To enter Todai, the University of Tokyo, you have to pass two different types of exams. The first one is a national standardized test in multiple-choice style. You have to take seven subjects and achieve a high score -- I would say like an 85 percent or more accuracy rate -- to be allowed to take the second stage written test prepared by Todai.
De ce am luat admiterea ca și reper? Pentru că am considerat că trebuie să studiem performanța IA în comparație cu oamenii, mai ales în domeniile și abilitățile care sunt considerate ca putând fi dobândite doar de oameni și numai prin educație. Pentru a intra la Todai, Universitatea din Tokyo, trebuie să treci două tipuri de examen. Primul este un test standard național, cu mai multe variante de răspuns. Trebuie să dai examenul din șapte materii și să iei o notă mare -- aș spune undeva la 84% sau mai mult -- pentru a avea voie să dai un al doilea examen scris, pregătit de Todai.
So let me first explain how modern AI works, taking the "Jeopardy!" challenge as an example. Here is a typical "Jeopardy!" question: "Mozart's last symphony shares its name with this planet." Interestingly, a "Jeopardy!" question always asks, always ends with "this" something: "this" planet, "this" country, "this" rock musician, and so on. In other words, "Jeopardy!" doesn't ask many different types of questions, but a single type, which we call "factoid questions."
Să vă explic mai întâi cum funcționează IA modernă, luând provocările „Jeopardy!” ca exemplu. Iată o întrebare tipică „Jeopardy!”: „Ultima simfonie a lui Mozart are numele acestei planete:” E interesant că întrebările „Jeopardy!” mereu se termină cu „această” ceva: „această” planetă, „această” țară, „acest” muzician rock, și tot așa. Cu alte cuvinte, „Jeopardy!” nu întreabă multe tipuri de întrebări, ci doar unul, pe care îl numim „întrebarea reper”.
By the way, do you know the answer? If you do not know the answer and if you want to know the answer, what would you do? You Google, right? Of course. Why not? But you have to pick appropriate keywords like "Mozart," "last" and "symphony" to search. The machine basically does the same. Then this Wikipedia page will be ranked top. Then the machine reads the page. No, uh-uh.
Apropo, știți răspunsul? Dacă nu știți, dar vreți să aflați, ce faceți? Căutați pe Google, nu? Sigur! De ce nu? Dar va trebui să alegeți cuvintele cheie potrivite, precum „Mozart”, „ultima” și „simfonie”, pentru căutare. Robotul face practic același lucru. Apoi, această pagină Wikipedia va apărea pe primele locuri. Apoi robotul citește pagina. Nu, nu.
Unfortunately, none of the modern AIs, including Watson, Siri and Todai Robot, is able to read. But they are very good at searching and optimizing. It will recognize that the keywords "Mozart," "last" and "symphony" are appearing heavily around here. So if it can find a word which is a planet and which is co-occurring with these keywords, that must be the answer. This is how Watson finds the answer "Jupiter," in this case.
Din păcate, nici una dintre IA moderne, inclusiv Watson, Siri și Todai Robot, nu pot să citească. Dar sunt foarte bune la a căuta și a optimiza. Va recunoaște cuvintele cheie, „Mozart”, „ultima” și „simfonie”, care apar des aici. Așa că, dacă va găsi un cuvânt ce este o planetă, și apare împreună cu cele cheie, acela trebuie să fie răspunsul. Așa află Watson că răspunsul, în acest caz, este „Jupiter”.
Our Todai Robot works similarly, but a bit smarter in answering history yes-no questions, like, "'Charlemagne repelled the Magyars.' Is this sentence true or false?" Our robot starts producing a factoid question, like: "Charlemagne repelled [this person type]" by itself. Then, "Avars" but not "Magyars" is ranked top. This sentence is likely to be false. Our robot does not read, does not understand, but it is statistically correct in many cases.
Robotul Todai funcționează aproape la fel, doar că un pic mai inteligent, răspunzând la întrebări istorice de tipul „da sau nu”, precum: „Carol cel Mare a combătut maghiarii” este adevărat sau fals? Robotul nostru începe să construiască o întrebare de tipul celei reper, precum: „Carol cel Mare a combătut [acest tip de persoană]” de unul singur. Apoi, „avarii”, și nu „maghiarii” apare ca prim rezultat. Deci propoziția pare a fi falsă. Robotul nostru nu citește, nu înțelege, dar e corect de multe ori, din punct de vedere statistic.
For the second stage written test, it is required to write a 600-word essay like this one:
Pentru a doua parte a testului scris, se cere un eseu de 600 de cuvinte, precum acesta:
[Discuss the rise and fall of the maritime trade in East and Southeast Asia in the 17th century ...]
[Discutați creșterea și declinul schimburilor maritime în Asia de Est si Sud-Est în secolul al XVII-lea...]
and as I have shown earlier, our robot took the sentences from the textbooks and Wikipedia, combined them together, and optimized it to produce an essay without understanding a thing.
și, după cum v-am arătat, robotul nostru a luat propoziții din cărți și Wikipedia, le-a combinat, și le-a optimizat pentru a produce un eseu, fără să înțeleagă ceva.
(Laughter)
(Râsete)
But surprisingly, it wrote a better essay than most of the students.
Dar, surprinzător, a scris un eseu mai bun decât majoritatea studenților.
(Laughter)
(Râsete)
How about mathematics? A fully automatic math-solving machine has been a dream since the birth of the word "artificial intelligence," but it has stayed at the level of arithmetic for a long, long time. Last year, we finally succeeded in developing a system which solved pre-university-level problems from end to end, like this one. This is the original problem written in Japanese, and we had to teach it 2,000 mathematical axioms and 8,000 Japanese words to make it accept the problems written in natural language. And it is now translating the original problems into machine-readable formulas. Weird, but it is now ready to solve it, I think. Go and solve it. Yes! It is now executing symbolic computation. Even more weird, but probably this is the most fun part for the machine.
Dar la matematică? O mașină complet automată care să rezolve matematică a fost un vis încă de la nașterea cuvintelor „inteligență artificială”, dar a rămas la nivelul aritmeticii pentru a perioadă foarte, foarte lungă. Anul trecut, am reușit să dezvoltăm un sistem care a rezolvat probleme de nivel preuniversitar de la cap la coadă, precum aceasta. Aceasta e problema originală, scrisă în japoneză, și a trebuit să îl învățăm 2.000 de axiome matematice și 8.000 de cuvinte japoneze pentru a-l face să primească problema scrisă în limbaj natural. Și acum traduce problema originală în formule citibile pentru un robot.. E ciudat, dar cred că acum este pregătit să o rezolve. Haide, rezolv-o! Da! Acum efectuează un calcul simbolic. Chiar și mai ciudat, dar, probabil că e partea cea mai distractivă pentru mașină.
(Laughter)
(Râsete)
Now it outputs a perfect answer, though its proof is impossible to read, even for mathematicians. Anyway, last year our robot was among the top one percent in the second stage written exam in mathematics.
Acum redă un răspuns perfect, deși dovada e imposibil de citit, chiar și pentru matematicieni. Oricum, anul trecut, robotul nostru a fost în primii 1% în partea a doua de examen scris, la matematică.
(Applause)
(Aplauze)
Thank you.
Mulțumesc!
So, did it enter Todai? No, not as I expected. Why? Because it doesn't understand any meaning. Let me show you a typical error it made in the English test.
Deci, a intrat la Todai? Nu, nu cum m-am așteptat. De ce? Pentru că nu înțelege nicio semnificație. Să vă arăt o eroare tipică pe care a făcut-o la testul de engleză.
[Nate: We're almost at the bookstore. Just a few more minutes. Sunil: Wait. ______ . Nate: Thank you! That always happens ...]
[Nate: Aproape am ajuns la bibliotecă. Încă câteva minute. Sunil: Așteaptă. Nate: Mulțumesc! Mereu se întâmplă asta]
Two people are talking. For us, who can understand the situation --
Doi oameni vorbesc. Pentru noi, care înțelegem situația,
[1. "We walked for a long time." 2. "We're almost there." 3. "Your shoes look expensive." 4. "Your shoelace is untied."]
[1. „Am mers multă vreme.” 2. „Aproape am ajuns.” 3. „Pantofii tăi par scumpi.” 4. „Ți s-a desfăcut șiretul.”]
it is obvious number four is the correct answer, right? But Todai Robot chose number two, even after learning 15 billion English sentences using deep learning technologies. OK, so now you might understand what I said: modern AIs do not read, do not understand. They only disguise as if they do.
e destul de clar că numărul 4 este răspunsul corect, nu? Dar, Todai Robot a ales numărul 2, chiar și după ce a învățat 15 miliarde de propoziții în engleză, folosind tehnologii pentru învățarea profundă. Bun, poate acum veți înțelege ce am spus: IA moderne nu citesc, nu înțeleg. Se prefac doar.
This is the distribution graph of half a million students who took the same exam as Todai Robot. Now our Todai Robot is among the top 20 percent, and it was capable to pass more than 60 percent of the universities in Japan -- but not Todai. But see how it is beyond the volume zone of to-be white-collar workers.
Acesta este graficul de distribuire a jumătate de milion de studenți ce au dat același examen precum Todai Robot. Acum, Todai Robot este în primii 20%, și a putut trece la mai mult de 60% din universitățile din Japonia-- dar nu la Todai. Dar vedeți cum e deasupra volumului celor ce vor lucra în birouri.
You might think I was delighted. After all, my robot was surpassing students everywhere. Instead, I was alarmed. How on earth could this unintelligent machine outperform students -- our children? Right? I decided to investigate what was going on in the human world. I took hundreds of sentences from high school textbooks and made easy multiple-choice quizzes, and asked thousands of high school students to answer.
Poate credeți că am fost încântată. La urma urmei, robotul meu a depășit studenți de peste tot. Dar, de fapt, am fost alarmată. Cum ar putea această mașină neinteligentă să întreacă studenții-- copiii noștri? Nu? Am decis să investighez ce se petrecea în lumea umană. Am luat sute de fraze din manuale de liceu și am făcut teste simple cu mai multe variante de răspuns, și am rugat mii de elevi de liceu să le rezolve.
Here is an example:
Iată un exemplu:
[Buddhism spread to ... , Christianity to ... and Oceania, and Islam to ...]
[Budismul s-a răspândit în ... , creștinismul în ... și Oceania, și Islamul în...]
Of course, the original problems are written in Japanese, their mother tongue.
Desigur, exercițiile originale sunt în japoneză, limba lor maternă.
[ ______ has spread to Oceania. 1. Hinduism 2. Christianity 3. Islam 4. Buddhism ]
[ ... s-a răspândit în Oceania. 1.Hinduism 2. Creștinism 3. Islam 4. Budism ]
Obviously, Christianity is the answer, isn't it? It's written! And Todai Robot chose the correct answer, too. But one-third of junior high school students failed to answer this question. Do you think it is only the case in Japan? I do not think so, because Japan is always ranked among the top in OECD PISA tests, measuring 15-year-old students' performance in mathematics, science and reading every three years.
Evident că e creștinismul, nu? Scrie! Și robotul Todai a răspuns corect. Dar, o treime din elevii începători de liceu au răspuns greșit. Credeți că asta se întâmplă numai în Japonia? Nu cred, pentru că Japonia e mereu în frunte la testele OECD PISA, ce măsoară performanțele elevilor de 15 ani în matematică, științe și citire o dată la trei ani.
We have been believing that everybody can learn and learn well, as long as we provide good learning materials free on the web so that they can access through the internet. But such wonderful materials may benefit only those who can read well, and the percentage of those who can read well may be much less than we expected. How we humans will coexist with AI is something we have to think about carefully, based on solid evidence. At the same time, we have to think in a hurry because time is running out.
Am crezut că oricine poate învăța, și învăța bine, câtă vreme le dăm materiale bune de învățat, gratis pe web, pentru a avea acces la ele prin internet. Dar astfel de materiale minunate sunt folosite doar de cei ce pot citi bine, iar procentul celor ce pot citi bine poate că e mult mai mic decât ne așteptăm. Cum noi, oamenii, vom coexista cu IA e ceva la care trebuie să ne gândim cu mare grijă, pe baza acestor dovezi solide. În același timp, trebuie să ne grăbim pentru că timpul se scurge.
Thank you.
Mulțumesc.
(Applause)
(Aplauze)
Chris Anderson: Noriko, thank you.
Chris Anderson: Noriko, mulțumesc.
Noriko Arai: Thank you.
Noriko Arai: Mulțumesc.
CA: In your talk, you so beautifully give us a sense of how AIs think, what they can do amazingly and what they can't do. But -- do I read you right, that you think we really need quite an urgent revolution in education to help kids do the things that humans can do better than AIs?
CA: În discursul tău ne-ai arătat așa frumos cum IA gândesc, ce pot face în mod surprinzător și ce nu pot face. Dar -- te citesc eu bine, dar tu crezi că avem nevoie de o urgentă revoluție în educație pentru a ajuta copiii să facă lucrurile pe care oamenii le fac mai bine decât IA?
NA: Yes, yes, yes. Because we humans can understand the meaning. That is something which is very, very lacking in AI. But most of the students just pack the knowledge without understanding the meaning of the knowledge, so that is not knowledge, that is just memorizing, and AI can do the same thing. So we have to think about a new type of education.
NA: Da, da, da. Pentru că oamenii pot înțelege semnificația lucrurilor. Este ceva ce lipesește foarte mult în IA. Dar majoritatea studenților doar adună cunoștințe fără să le înțeleagă semnificația, și asta nu e cunoaștere, e doar memorare, și inteligența artificială poate să facă asta. Așa că trebuie să ne gândim la o nouă formă de educație.
CA: A shift from knowledge, rote knowledge, to meaning.
CA: O mutare de la învățarea mecanică spre înțelegere.
NA: Mm-hmm.
NA: Da.
CA: Well, there's a challenge for the educators. Thank you so much.
CA: Asta e o provocare pentru dascăli. Mulțumim foarte mult.
NA: Thank you very much. Thank you.
NA: Mulțumesc mult. Mulțumesc.
(Applause)
(Aplauze)