Today, I'm going to talk about AI and us. AI researchers have always said that we humans do not need to worry, because only menial jobs will be taken over by machines. Is that really true? They have also said that AI will create new jobs, so those who lose their jobs will find a new one. Of course. But the real question is: How many of those who may lose their jobs to AI will be able to land a new one, especially when AI is smart enough to learn better than most of us?
Bugün Yapay Zekâ ve biz hakkında konuşacağım. Yapay zekâ araştırmacıları her zaman biz insanların endişe etmesine gerek olmadığını söyler çünkü makineler sadece önemsiz işleri devralacaktır. Bu gerçekten de doğru mu? Ayrıca yapay zekânın yeni işler ortaya çıkaracağını, böylelikle işini kaybedenlerin yeni bir iş bulacağını söylerler. Tabii ki öyle. Fakat asıl soru şu: Özellikle yapay zekâ çoğumuzdan daha iyi öğrenecek kadar geliştiğinde işini yapay zekâya kaptıranların kaç tanesi yeni bir iş bulabilir durumda olacak?
Let me ask you a question: How many of you think that AI will pass the entrance examination of a top university by 2020? Oh, so many. OK. So some of you may say, "Of course, yes!" Now singularity is the issue. And some others may say, "Maybe, because AI already won against a top Go player." And others may say, "No, never. Uh-uh." That means we do not know the answer yet, right? So that was the reason why I started Todai Robot Project, making an AI which passes the entrance examination of the University of Tokyo, the top university in Japan.
İzninizle sormak istiyorum: Kaçınız yapay zekânın 2020'lerde gözde bir üniversitenin giriş sınavını geçeceğini düşünüyor? Bir çoğunuz. Peki. Belki bazılarınız "Tabii geçer!" diyordur. Bir tuhaflık söz konusu. Bazıları da "Olabilir, çünkü yapay zekâ zaten usta bir Go oyuncusunu bile yendi" diyebilir. Bazıları da "Hayır, asla." diyebilir. Yani henüz cevabı bilmiyoruz değil mi? Todai Robot Projesini başlatma sebebim buydu. Japonya'nın ilk sıradaki üniversitesi olan Tokyo Üniversitesi'nin giriş sınavını geçen bir yapay zekâ üretmekti.
This is our Todai Robot. And, of course, the brain of the robot is working in the remote server. It is now writing a 600-word essay on maritime trade in the 17th century. How does that sound?
Bu bizim Todai Robotumuz. Tabii ki robotun beyni uzak sunucuda çalışıyor. 17. yüzyılda deniz ticareti üzerine 600 kelimelik makale yazabiliyor. Bunu duymak nasıl?
Why did I take the entrance exam as its benchmark? Because I thought we had to study the performance of AI in comparison to humans, especially on the skills and expertise which are believed to be acquired only by humans and only through education. To enter Todai, the University of Tokyo, you have to pass two different types of exams. The first one is a national standardized test in multiple-choice style. You have to take seven subjects and achieve a high score -- I would say like an 85 percent or more accuracy rate -- to be allowed to take the second stage written test prepared by Todai.
Neden üniersite sınavını baz aldım? Çünkü yapay zekânın performansını insana kıyaslayarak çalışmamız gerektiğini düşündüm, özellikle de sadece insanların ve de sadece eğitimle edinilen yetenek ve uzmanlıkla. Todai Tokyo Üniversitesi'ne girmek için iki farklı sınavı geçmek gerekiyor. İlki ulusal standartta çoktan seçmeli bir test. Yedi konu seçmeniz ve yüksek puan almanız gerekir. Todai tarafından hazırlanan ikinci aşamadaki yazılı teste geçmek için %84 veya daha fazla doğruluk oranı olması gerekir.
So let me first explain how modern AI works, taking the "Jeopardy!" challenge as an example. Here is a typical "Jeopardy!" question: "Mozart's last symphony shares its name with this planet." Interestingly, a "Jeopardy!" question always asks, always ends with "this" something: "this" planet, "this" country, "this" rock musician, and so on. In other words, "Jeopardy!" doesn't ask many different types of questions, but a single type, which we call "factoid questions."
Şimdi öncelikle modern yapay zekânın nasıl çalıştığını anlatayım. "Riziko" yu örnek alalım. Tipik bir "Riziko" sorusu: "Mozart'ın son senfonisi bu gezegenle aynı adı taşır." İlginçtir, "Riziko" soruları her zaman "bu" ile biten sorular sorar: "bu" gezegen, "bu" ülke, "bu" müzik grubu vesaire. Yani "Riziko" çok çeşitli sorular sormaz, tek çeşittir, biz buna "sahte soru" diyoruz.
By the way, do you know the answer? If you do not know the answer and if you want to know the answer, what would you do? You Google, right? Of course. Why not? But you have to pick appropriate keywords like "Mozart," "last" and "symphony" to search. The machine basically does the same. Then this Wikipedia page will be ranked top. Then the machine reads the page. No, uh-uh.
Sırası gelmişken sorayım, cevabı biliyor musunuz? Cevabı bilmiyorsanız ve bilmek istiyorsanız ne yaparsınız? Google'da arardınız değil mi? Kesinlikle. Neden olmasın? Ama araştırmak için "Mozart", "son" ve "senfoni" gibi uygun anahtar kelimeleri bulmak zorundasınız. Makine de aslında aynı şeyi yapar. Sonra en üstte bu Wikipedia sayfası çıkar. Sonra makine sayfayı okur. Hayır hayır.
Unfortunately, none of the modern AIs, including Watson, Siri and Todai Robot, is able to read. But they are very good at searching and optimizing. It will recognize that the keywords "Mozart," "last" and "symphony" are appearing heavily around here. So if it can find a word which is a planet and which is co-occurring with these keywords, that must be the answer. This is how Watson finds the answer "Jupiter," in this case.
Maalesef modern yapay zekâların hiçbiri -Watson, Siri ve Todai Robot dahil- okuyamıyor. Fakat araştırmak ve bunu en iyi şekilde kullanmakta oldukça iyiler. "Mozart", "son" ve "senfoni" gibi anahtar kelimelerin yoğunlaştığı yerleri fark eder. Dolayısıyla gezegen adı olan ve bu anahtar kelimelerle birlikte geçen bir kelime bulabilir, ki cevap budur. Bu örnekte Watson "Jüpiter" cevabını böyle bulur.
Our Todai Robot works similarly, but a bit smarter in answering history yes-no questions, like, "'Charlemagne repelled the Magyars.' Is this sentence true or false?" Our robot starts producing a factoid question, like: "Charlemagne repelled [this person type]" by itself. Then, "Avars" but not "Magyars" is ranked top. This sentence is likely to be false. Our robot does not read, does not understand, but it is statistically correct in many cases.
Bizim Todai Robotumuz da tarihle ilgili evet-hayır sorularını cevaplarken benzeri şekilde ama biraz daha zekice çalışır. Mesela "Şarlman Macarları geri püskürttü." cümlesi doğru mu yanlış mı?" Robotumuz kendi kendine sahte bir soru üretmeye başlar, şunun gibi: "Şarlman [şu kimsleri] geri püskürttü." Sonra, Macarlar değil Avarlar üst sıraya geçer. Bu cümlenin yanlış olması muhtemeldir. Bizim robotumuz okumaz, anlamaz ama istatistiksel olarak birçok durumda doğrudur.
For the second stage written test, it is required to write a 600-word essay like this one:
İkinci aşamadaki yazılı sınavda 600 kelimelik şunun gibi bir makale yazmak gerekir.
[Discuss the rise and fall of the maritime trade in East and Southeast Asia in the 17th century ...]
[17. yüzyılda Doğu ve Güneydoğu Asya'da deniz ticaretinin iniş ve çıkışlarından bahsedin.]
and as I have shown earlier, our robot took the sentences from the textbooks and Wikipedia, combined them together, and optimized it to produce an essay without understanding a thing.
Daha önce gösterdiğim gibi robotumuz ders kitapları ve Wikipedia'dan cümleler alıp bunları birleştirerek bir makale oluşturmak üzere düzene soktu, hem de hiçbir şey anlamaksızın.
(Laughter)
(Kahkahalar)
But surprisingly, it wrote a better essay than most of the students.
Ama şaşırtıcı bir şekilde çoğu öğrenciden daha iyi bir makale yazdı.
(Laughter)
(Kahkahalar)
How about mathematics? A fully automatic math-solving machine has been a dream since the birth of the word "artificial intelligence," but it has stayed at the level of arithmetic for a long, long time. Last year, we finally succeeded in developing a system which solved pre-university-level problems from end to end, like this one. This is the original problem written in Japanese, and we had to teach it 2,000 mathematical axioms and 8,000 Japanese words to make it accept the problems written in natural language. And it is now translating the original problems into machine-readable formulas. Weird, but it is now ready to solve it, I think. Go and solve it. Yes! It is now executing symbolic computation. Even more weird, but probably this is the most fun part for the machine.
Matematikte ne yaptı dersiniz? Matematik çözebilen tam otomatik bir makine "yapay zekâ" tabirinin doğduğu andan itibaren hayalleri süslemektedir. Fakat çok çok uzun zamandır orta seviyede kalmıştır. Geçen yıl nihayet üniversite hazırlık seviyesinde baştan sona problem çözen bir sistem geliştirdik, tıpkı şunun gibi. Problemin Japonca yazılmış orijinali bu ve ona 2.000 matematik aksiyomu ve 8.000 Japonca kelime öğretmek zorundaydık. Böylece doğal dilde yazılmış problemleri tanıyabilecekti. Şimdi ise orijinal problemleri makinenin okuyabildiği formüllere çevirebiliyor. Garip ama bence artık bunu çözmeye hazır. Başla ve çöz. Evet! Şu an sembolik bir hesaplama yapıyor. Daha da garibi, hatta belki de makine için işin en eğlenceli kısmı bu.
(Laughter)
(Gülüşmeler)
Now it outputs a perfect answer, though its proof is impossible to read, even for mathematicians. Anyway, last year our robot was among the top one percent in the second stage written exam in mathematics.
Şimdi mükemmel bir cevap çıkarıyor, ancak matematikçilerin bile okuması mümkün değil. Ama yine de robotumuz geçen sene ikinci seviye yazılı matematik sınavında yüzde birlik kesimin arasındaydı.
(Applause)
(Alkışlar)
Thank you.
Teşekkürler.
So, did it enter Todai? No, not as I expected. Why? Because it doesn't understand any meaning. Let me show you a typical error it made in the English test.
Todai'ye girdi mi dersiniz? Hayır, tahminimin aksi oldu. Neden mi? Çünkü hiçbir şey anlamıyordu. İngilizce testinde yapmış olduğu tipik bir hatayı göstereyim.
[Nate: We're almost at the bookstore. Just a few more minutes. Sunil: Wait. ______ . Nate: Thank you! That always happens ...]
İki kişi konuşuyor: [Nate: Birazdan kitapçıda oluruz.Az kaldı. Sunil: Bekle. ________. Nate: Teşekkürler! Bu hep oluyor...]
Two people are talking. For us, who can understand the situation --
İki kişi konuşuyor. Durumu anlayabilirsek,
[1. "We walked for a long time." 2. "We're almost there." 3. "Your shoes look expensive." 4. "Your shoelace is untied."]
[1. "Uzun bir süre yürüdük." 2. "Neredeyse geldik." 3. "Ayakkabıların pahalı görünüyor." 4. "Bağcıkların çözülmüş."]
it is obvious number four is the correct answer, right? But Todai Robot chose number two, even after learning 15 billion English sentences using deep learning technologies. OK, so now you might understand what I said: modern AIs do not read, do not understand. They only disguise as if they do.
doğru cevabın dört numara olduğu belli değil mi? Fakat Todai Robot ikinciyi seçti, derin öğrenme teknolojileri kullanarak 15 milyar İngilizce cümle öğrenmiş olduğu halde. Şimdi ne demek istediğimi anlamış olmalısınız: Modern yapay zekâlar okumaz, anlamazlar. Sadece "mış gibi" yapıyorlar.
This is the distribution graph of half a million students who took the same exam as Todai Robot. Now our Todai Robot is among the top 20 percent, and it was capable to pass more than 60 percent of the universities in Japan -- but not Todai. But see how it is beyond the volume zone of to-be white-collar workers.
Burada Todai Robotuyla aynı sınava giren yarım milyon öğrencinin dağılım grafiğini görüyorsunuz. Todai Robotumuz yüzde yirminin arasında ve Japonya'daki üniversitelerin %60'ına girebilirdi, Todai hariç. Ayrıca beyaz yakalı çalışanları gösteren alanın ne kadar ötesinde olduğuna bakın.
You might think I was delighted. After all, my robot was surpassing students everywhere. Instead, I was alarmed. How on earth could this unintelligent machine outperform students -- our children? Right? I decided to investigate what was going on in the human world. I took hundreds of sentences from high school textbooks and made easy multiple-choice quizzes, and asked thousands of high school students to answer.
Çok sevindiğimi düşünmüş olmalısınız. Ne de olsa robotum her yerde öğrencileri geçiyordu. Aksine paniğe kapıldım. Nasıl olur da bu akılsız makine öğrencileri, çocuklarımızı geçebiliyor? Nasıl? İnsan dünyasında neler olduğunu araştırmaya karar verdim. Lise kitaplarından yüzlerce cümle aldım ve çoktan seçmeli kolay testler hazırlayıp binlerce lise öğrencisinden çözmelerini istedim.
Here is an example:
Örneğe bakalım:
[Buddhism spread to ... , Christianity to ... and Oceania, and Islam to ...]
[Budizm çoğunlukla Güneydoğu Asya,,, Hristiyanlık Avrupa..., İslamiyet Güney Afrika'ya yayıldı.]
Of course, the original problems are written in Japanese, their mother tongue.
Tabii ki orijinal soru Japonca soruldu, kendi ana dillerinde.
[ ______ has spread to Oceania. 1. Hinduism 2. Christianity 3. Islam 4. Buddhism ]
[ _______ Okyanusya'ya yayıldı. 1. Hinduizm 2. Hristiyanlık. 3. İslamiyet 4. Budizm]
Obviously, Christianity is the answer, isn't it? It's written! And Todai Robot chose the correct answer, too. But one-third of junior high school students failed to answer this question. Do you think it is only the case in Japan? I do not think so, because Japan is always ranked among the top in OECD PISA tests, measuring 15-year-old students' performance in mathematics, science and reading every three years.
Cevap Hristiyanlık çok net değil mi? Zaten yazıyor. Todai Robotumuz da doğru cevabı seçti. Fakat öğrencilerin üçte biri bu soruyu cevaplayamadı. Sizce sadece Japonya'da mı böyle? Sanmıyorum, çünkü Japonya, 15 yaşındaki öğrencilerin matematik, fen ve okuma performanslarını her üç yılda bir ölçen OECD PISA testlerinde her zaman en üst sıralarda yer alır.
We have been believing that everybody can learn and learn well, as long as we provide good learning materials free on the web so that they can access through the internet. But such wonderful materials may benefit only those who can read well, and the percentage of those who can read well may be much less than we expected. How we humans will coexist with AI is something we have to think about carefully, based on solid evidence. At the same time, we have to think in a hurry because time is running out.
Herkesin öğrenebileceğine inanıyoruz, daha iyi öğrenebilirler ancak ücretsiz iyi öğrenim materyalleri sunmamız gerekiyor ki internet üzerinden erişebilsinler. Fakat bu muhteşem materyallerin sadece iyi okuyabilenlere yararı olur ve bu kişilerin sayıları tahmin ettiğimizden daha az olabilir. Biz insanların yapay zekâ ile bir arada var olmaya nasıl devam edeceği somut verilere dayanarak dikkatli düşünülmesi gereken bir konu. Aynı zamanda acele etmeliyiz çünkü vaktimiz daralıyor.
Thank you.
Teşekkür ederim.
(Applause)
(Alkışlar)
Chris Anderson: Noriko, thank you.
Chris Anderson: Noriko, teşekkürler.
Noriko Arai: Thank you.
Noriko Arai: Ben teşekkür ederim.
CA: In your talk, you so beautifully give us a sense of how AIs think, what they can do amazingly and what they can't do. But -- do I read you right, that you think we really need quite an urgent revolution in education to help kids do the things that humans can do better than AIs?
CA: Anlattıklarınla bize yapay zekâların nasıl düşündüğü, neler yapabildikleri ve yapamadıklarına dair çok güzel bir anlayış kazandırdın. Fakat, seni doğru anladıysam çocukların insanların yapay zekâlardan daha iyi yapabildiği şeyleri yapması için eğitimde çok acil devrime ihtiyacımız olduğunu düşünüyorsun.
NA: Yes, yes, yes. Because we humans can understand the meaning. That is something which is very, very lacking in AI. But most of the students just pack the knowledge without understanding the meaning of the knowledge, so that is not knowledge, that is just memorizing, and AI can do the same thing. So we have to think about a new type of education.
NA: Evet öyle. Çünkü biz insanlar manayı anlayabiliyoruz. İşte bu yapay zekânın en çok yoksun olduğu şey. Fakat çoğu öğrenci, bilgiyi anlamaksızın bilgi topluyor, o zaman bu bilgi değil sadece ezberlemek oluyor ve aynısını yapay zekâ da yapıyor. Dolayısıyla yeni bir eğitim modeli düşünmemiz gerekiyor.
CA: A shift from knowledge, rote knowledge, to meaning.
CA: Yani ezbere dayalı bilgiden anlamaya geçiş yapmalıyız.
NA: Mm-hmm.
NA: Aynen.
CA: Well, there's a challenge for the educators. Thank you so much.
CA: O halde eğitimcilere zorlu bir görev düşüyor. Çok teşekkürler.
NA: Thank you very much. Thank you.
NA: Ben teşekkür ederim. Teşekkürler.
(Applause)
(Alkışlar)