سأتحدث اليوم عن الذكاء الاصطناعي وعنّا. باحثو الذكاء الاصطناعى كانوا دائمًا يقولون أننا نحن البشر لا يجب أن نقلق، لأن الوظائف المهينة فقط هي ما ستقوم به الآلات. هل هذا صحيح حقًّا؟ قالوا أيضًا أن الذكاء الاصطناعي سوف يخلق وظائف جديدة، لذا فهؤلاء الذين فقدوا وظائفهم سوف يجدون وظائف جديدة. بالطبع. ولكن السؤال الحقيقي هو: كم من هؤلاء الذين قد يفقدون وظائفهم لصالح الذكاء الاصطناعي سيتمكنون من الحصول على واحدة جديدة، خاصةً عندما يكون الذكاء الاصطناعي ذكيًّا كفاية ليتعلّم أسرع من معظمنا؟
Today, I'm going to talk about AI and us. AI researchers have always said that we humans do not need to worry, because only menial jobs will be taken over by machines. Is that really true? They have also said that AI will create new jobs, so those who lose their jobs will find a new one. Of course. But the real question is: How many of those who may lose their jobs to AI will be able to land a new one, especially when AI is smart enough to learn better than most of us?
دعوني أسألكم سؤالاً: كم منكم يعتقد أن الذكاء الاصطناعي سيجتاز امتحان القبول بجامعة مرموقة بحلول عام 2020؟ كثيرون. حسنًا. إذن بعضكم ربّما يقول: "بالطبع، نعم!" الآن التفرّد هو المشكلة. وآخرون قد يقولون:"ربّما،" لأن الذكاء الاصطناعي قد فاز بالفعل أمام أحد أفضل لاعبي Go." وآخرون قد يقولون: "لا، أبداً." هذا يعني أننا لا نعرف الإجابة بعد، صحيح؟ لهذا السبب بدأت مشروع الروبوت Todai، لصنع نظام ذكاء اصطناعي يمكنه اجتياز امتحان قبول جامعة طوكيو الجامعة الأولى في اليابان.
Let me ask you a question: How many of you think that AI will pass the entrance examination of a top university by 2020? Oh, so many. OK. So some of you may say, "Of course, yes!" Now singularity is the issue. And some others may say, "Maybe, because AI already won against a top Go player." And others may say, "No, never. Uh-uh." That means we do not know the answer yet, right? So that was the reason why I started Todai Robot Project, making an AI which passes the entrance examination of the University of Tokyo, the top university in Japan.
هذا هو الروبوت Todai خاصتّنا. وبالطبع دماغ الروبوت يتم التحكّم به عن بُعد من خلال حاسوب. إنه يكتب الآن مقالاً من 600 كلمة عن التجارة البحرية فى القرن ال17 عشر. كيف يبدو هذا؟
This is our Todai Robot. And, of course, the brain of the robot is working in the remote server. It is now writing a 600-word essay on maritime trade in the 17th century. How does that sound?
لماذا اعتبرت امتحان القبول هو المقياس؟ لأني اعتقدت أنه علينا دراسة أداء الذكاء الاصطناعي بالمقارنة مع البشر، خاصةً بالمعايير والخبرات التي يُعتقد أنها تُكتسَب فقط بواسطة البشر وفقط من خلال التعليم. لكي تدخُل Todai وهي جامعة طوكيو، عليك أن تجتاز نوعين مختلفين من الاختبارات الأول هو اختبار وطني مُوحّد بنظام الاختيار من متعدد. عليك أن تُختبر في سبع مواد دراسية وتحصل على درجة عالية سأقول أنها حوالي 85% أو أكثر لكي يُسمح لك بدخول المرحلة الثانية وهي الاختبار الكتابي المعدّ من قِبَل جامعة طوكيو نفسها.
Why did I take the entrance exam as its benchmark? Because I thought we had to study the performance of AI in comparison to humans, especially on the skills and expertise which are believed to be acquired only by humans and only through education. To enter Todai, the University of Tokyo, you have to pass two different types of exams. The first one is a national standardized test in multiple-choice style. You have to take seven subjects and achieve a high score -- I would say like an 85 percent or more accuracy rate -- to be allowed to take the second stage written test prepared by Todai.
لذا دعوني أشرح أولاً كيف يعمل الذكاء الاصطناعي الحديث، وسنأخذ تحدّي "!Jeopardy" كمثال. ها هو سؤال نموذجي من تحدي "Jeopardy": "سيمفونية موزارت الأخيرة تشترك في الاسم مع هذا الكوكب." الملفت للانتباه أن سؤال تحدي "Jeopardy" يستفسر دائمًا عن شيء ما، وينتهي دائمًا بكلمة "هذا" الشيء: "هذا" الكوكب، "هذه" البلد، عازف الروك "هذا"، وهكذا. بكلمات أخرى، تحدي "Jeopardy" لا يتضمّن أنواعًا عديدة مختلفة من الأسئلة، ولكن نوعًا واحدًا. وهو ما نسميه "أسئلة المعلومات العامّة،"
So let me first explain how modern AI works, taking the "Jeopardy!" challenge as an example. Here is a typical "Jeopardy!" question: "Mozart's last symphony shares its name with this planet." Interestingly, a "Jeopardy!" question always asks, always ends with "this" something: "this" planet, "this" country, "this" rock musician, and so on. In other words, "Jeopardy!" doesn't ask many different types of questions, but a single type, which we call "factoid questions."
بالمناسبة، هل تعرفون الإجابة؟ إذا كنتم لا تعرفون الإجابة وأردتم أن تعرفوها، ماذا ستفعلون؟ ستبحثون عبر Google، صحيح؟ بالطبع. لم لا؟ ولكن عليكم اختيار كلمات البحث الصحيحة مثل "موزارت"، و"أخيرة"، و"سيمفونية" لتبحث عنها. والآلة في الأساس تفعل هذا أيضًا. وتتصدّر صفحة الويكيبيديا نتائج البحث. ثم تقرأ الآلة الصفحة. لا.
By the way, do you know the answer? If you do not know the answer and if you want to know the answer, what would you do? You Google, right? Of course. Why not? But you have to pick appropriate keywords like "Mozart," "last" and "symphony" to search. The machine basically does the same. Then this Wikipedia page will be ranked top. Then the machine reads the page. No, uh-uh.
لسوء الحظ، فإن أيًّا من أنظمة الذكاء الاصطناعي الحديثة، بما فيهم "Watson"، و"Siri" ، والروبوت "Todai"، غير قادر على القراءة. ولكنهم جيّدون جدًا فى البحث والاقتراب من الحلّ الأمثل. الذكاء الاصطناعي سيدُرِك أن الكلمات المفتاحية "موزارت" و"أخيرة" و"سيمفونية" تظهر بكثرة هنا. لذا إذا تمكّن من إيجاد اسم لكوكب يتّفق مع هذه الكلمات المفتاحية فلابد أن تكون هذه هى الإجابة. هذه هي الطريقة التي يجد بها Watson الإجابة وهي كوكب المشترى في هذه الحالة.
Unfortunately, none of the modern AIs, including Watson, Siri and Todai Robot, is able to read. But they are very good at searching and optimizing. It will recognize that the keywords "Mozart," "last" and "symphony" are appearing heavily around here. So if it can find a word which is a planet and which is co-occurring with these keywords, that must be the answer. This is how Watson finds the answer "Jupiter," in this case.
والروبوت Todai يعمل بطريقة مشابهة لكنه أذكي قليلاً في الإجابة على أسئلة نعم أو لا عن التاريخ، مثل "شارلمان صدّ هجوم المجريين. صواب أم خطأ؟" يقوم الروبوت بنفسه بصياغة السؤال في صورة سؤال معلومات عامّة، مثل: "شارلمان صد هجوم هذا الجنس من البشر". ولكن "الآفار" تتصدّر نتائج البحث بدلاً من "المجريين." إذن يُحتمل أن هذه العبارة خطأ. الروبوت لا يقرأ ولا يفهم، ولكنه صحيح إحصائيًا في كثير من الحالات.
Our Todai Robot works similarly, but a bit smarter in answering history yes-no questions, like, "'Charlemagne repelled the Magyars.' Is this sentence true or false?" Our robot starts producing a factoid question, like: "Charlemagne repelled [this person type]" by itself. Then, "Avars" but not "Magyars" is ranked top. This sentence is likely to be false. Our robot does not read, does not understand, but it is statistically correct in many cases.
في اختبار المرحلة الثانية الكتابي، عليه أن يكتب مقالاً من 600 كلمة مثل هذا:
For the second stage written test, it is required to write a 600-word essay like this one:
"ناقش الازدهار والضعف في التجارة البحرية في شرق وجنوب شرق آسيا فى القرن ال17."
[Discuss the rise and fall of the maritime trade in East and Southeast Asia in the 17th century ...]
وكما أوضحت سابقًا، قام الروبوت بأخذ الجُمل من المراجع وويكيبيديا، وجمعهم معًا، ورتّبهم لينتج مقالاً بدون أن يفهم شيئًا.
and as I have shown earlier, our robot took the sentences from the textbooks and Wikipedia, combined them together, and optimized it to produce an essay without understanding a thing.
(ضحك)
(Laughter)
ولكن المفاجئ أنه كتب مقالاً أفضل من معظم الطلبة.
But surprisingly, it wrote a better essay than most of the students.
(ضحك)
(Laughter)
ماذا عن الرياضيات؟ لطالما كان الحصول على آلة أوتوماتيكية بالكامل لحلّ المسائل الرياضية حلمًا منذ ميلاد كلمة "الذكاء الاصطناعي،" ولكنها ظلّت عند مستوى "علم الحساب" لوقت طويل جدًا. السنة الماضية، نجحنا أخيرًا في تطوير نظام قام بحلّ مسائل مستوى المرحلة قبل الجامعية بالكامل، مثل هذه. هذه هي المسألة الأصلية مكتوبة باللغة اليابانية، وكان علينا تعليم الروبوت 2,000 من بديهيات الرياضيات و8,000 كلمة يابانية لكي نجعله يقبل المسائل مكتوبة ب"اللغة الطبيعية." وهو الآن يقوم بترجمة المسائل الأصلية إلى لغة يمكن للآلة قراءتها. غريب، ولكنه الآن جاهز ليحلّها، كما أعتقد انطلق وابدأ الحل. نعم! إنه الآن ينفذ بعض الحسابات الرمزية. هذا أكثر غرابة حتى، لكنه على الأرجح الجزء الأكثر مرحًا بالنسبة للآلة.
How about mathematics? A fully automatic math-solving machine has been a dream since the birth of the word "artificial intelligence," but it has stayed at the level of arithmetic for a long, long time. Last year, we finally succeeded in developing a system which solved pre-university-level problems from end to end, like this one. This is the original problem written in Japanese, and we had to teach it 2,000 mathematical axioms and 8,000 Japanese words to make it accept the problems written in natural language. And it is now translating the original problems into machine-readable formulas. Weird, but it is now ready to solve it, I think. Go and solve it. Yes! It is now executing symbolic computation. Even more weird, but probably this is the most fun part for the machine.
(ضحك)
(Laughter)
والآن يُخرج إجابة مثالية، مع أن إثباتها تستعصي قراءته، حتى بالنسبة لعلماء الرياضيات. على أي حال، في العام الماضي كان روبوتنا من ضمن أفضل 1% في اختبار المرحلة الثانية الكتابي في الرياضيات.
Now it outputs a perfect answer, though its proof is impossible to read, even for mathematicians. Anyway, last year our robot was among the top one percent in the second stage written exam in mathematics.
(تصفيق)
(Applause)
شكرًا لكم.
Thank you.
لذا هل نجح في دخول جامعة طوكيو؟ لا، ليس كما توقعت. لماذا؟ لأنه لا يفهم أي معنى. دعوني أريكم خطأً نموذجيًا قام به فى اختبار اللغة الإنجليزية. [نات: لقد وصلنا تقريبًا لمتجر الكتب، فقط أعطنا بضع دقائق.
So, did it enter Todai? No, not as I expected. Why? Because it doesn't understand any meaning. Let me show you a typical error it made in the English test. [Nate: We're almost at the bookstore. Just a few more minutes.
شخصان يتكلمان سونيل: انتظر،--- نات: شكرًا! هذا يحدث دائمًا..]
Sunil: Wait. ______ . Nate: Thank you! That always happens ...]
بالنسبة لنا، فمن يستطيع فهم الموقف
Two people are talking.
يتّضح له أن رقم 4 هى الإجابة الصحيحة، صحيح؟
For us, who can understand the situation --
[4- "رباط حذائك مفكوك."]
[1. "We walked for a long time." 2. "We're almost there." 3. "Your shoes look expensive." 4. "Your shoelace is untied."]
ولكن الروبوت Todai اختار رقم 2، [2- "كدنا نصل هناك."] حتى بعد تعلّم 15 مليار جملة إنجليزية باستخدام تقنيات التعلّم العميق. حسنا، لذا الآن ربما تفهمون ما قلته: أنظمة الذكاء الاصطناعي الحديثة لا تقرأ، ولا تفهم. فقط يبدون وكأنهم يفهمون.
it is obvious number four is the correct answer, right? But Todai Robot chose number two, even after learning 15 billion English sentences using deep learning technologies. OK, so now you might understand what I said: modern AIs do not read, do not understand. They only disguise as if they do.
هذا هو رسم التوزيع الطبيعي لنصف مليون طالب خاضوا نفس الاختبار مثل الروبوت Todai. الآن حلّ الروبوت من ضمن ال20% الأوائل، وكان بإمكانه اجتياز اختبارات القبول في أكثر من 60% من جامعات اليابان لكن ليس جامعة طوكيو. ولكن انظروا كيف أنه تجاوز المنطقة الخاصة (بعمّال الياقات البيضاء).
This is the distribution graph of half a million students who took the same exam as Todai Robot. Now our Todai Robot is among the top 20 percent, and it was capable to pass more than 60 percent of the universities in Japan -- but not Todai. But see how it is beyond the volume zone of to-be white-collar workers.
قد تظنون أني كنت مسرورة. مع كل ذلك، الروبوت خاصّتي كان يتجاوز الطلاب في كل مكان. بدلاً من ذلك، كنت قلقة. كيف يمكن لهذه الآلة الغبية أن تتفوق على الطلبة... أولادنا؟ صحيح؟ قررت أن أتحقّق مما كان يجري في عالم البشر. أخذت مئات الجُمل من كتب المدرسة الثانوية ووضعت اختبارات بنظام الاختيار من متعدد، وسألت الآلاف من طلبة الثانوية أن يحلّوها.
You might think I was delighted. After all, my robot was surpassing students everywhere. Instead, I was alarmed. How on earth could this unintelligent machine outperform students -- our children? Right? I decided to investigate what was going on in the human world. I took hundreds of sentences from high school textbooks and made easy multiple-choice quizzes, and asked thousands of high school students to answer.
إليكم مثال: [..وانتشرت المسيحية في أوقيانوسيا..]
Here is an example: [Buddhism spread to ... , Christianity to ... and Oceania,
بالطبع كانت الأسئلة الأصلية مكتوبة باليابانيّة، لغتهم الأم.
and Islam to ...] Of course, the original problems are written in Japanese,
[---انتشرت في أوقيانوسيا.
their mother tongue.
1. الهندوسية 2. المسيحية 3. الإسلام 4.البوذية]
[ ______ has spread to Oceania.
من الواضح أن المسيحية هي الإجابة، أليس كذلك؟
1. Hinduism 2. Christianity 3. Islam 4. Buddhism ]
إنها مكتوبة! والروبوت Todai اختار الإجابة الصحيحة كذلك. ولكن ثلث الطلاب في الصفّ قبل الأخير في المدرسة الثانوية فشلوا في الإجابة عن ذلك السؤال. هل تعتقدون أنها الحالة الوحيدة في اليابان؟ لا أعتقد ذلك، لأن اليابان تحلّ دائمًا ضمن الأوائل فى اختبارات منظّمة OECD لتقييم جودة التعليم، عن طريق قياس أداء الطلاب بعمر 15 عام فى الرياضيات، والعلوم والقراءة كل ثلاث سنوات.
Obviously, Christianity is the answer, isn't it? It's written! And Todai Robot chose the correct answer, too. But one-third of junior high school students failed to answer this question. Do you think it is only the case in Japan? I do not think so, because Japan is always ranked among the top in OECD PISA tests, measuring 15-year-old students' performance in mathematics, science and reading every three years.
وكنا نعتقد أن كل شخص يمكنه أن يتعلّم ويتعلّم جيدًا، طالما أننا نوفّر لهم مواد تعليم جيّدة ومجانيّة على الشبكة العنكبوتية حتى يمكنهم الوصول إليها من خلال الإنترنت. ولكن موادًا رائعة كهذه مفيدة فقط لهؤلاء الذين يمكنهم القراءة جيّدًا، ونسبة من يمكنهم القراءة جيدًا ربّما تكون أقل بكثير مما توقّعناه. الكيفية التي سيتعايش بها البشر مع الذكاء الاصطناعي هي شيء علينا أن نفكر فيه بعناية، مستندين على أدلّة دامغة. في نفس الوقت، علينا أن نفكر بسرعة لأن الوقت ينفد.
We have been believing that everybody can learn and learn well, as long as we provide good learning materials free on the web so that they can access through the internet. But such wonderful materials may benefit only those who can read well, and the percentage of those who can read well may be much less than we expected. How we humans will coexist with AI is something we have to think about carefully, based on solid evidence. At the same time, we have to think in a hurry because time is running out.
شكرًا لكم.
Thank you.
(تصفيق)
(Applause)
كريس أندرسون: شكرًا لكِ يا نوريكو.
Chris Anderson: Noriko, thank you.
نوريكو: شكرًا لك.
Noriko Arai: Thank you.
كريس: أريتينا في محادثتك بشكل جميل للغاية طريقة تفكير أنظمة الذكاء الاصطناعي، وما يمكنهم عمله ببراعة وما لا يمكنهم عمله. ولكن.. إن كنت فهمتُك جيدًا فأنت تعتقدين أننا نحتاج حقًا لثورة تعليميّة عاجلة لنساعد الأطفال في فعل الأشياء التي يبرع فيها البشر أكثر من الذكاء الاصطناعي؟
CA: In your talk, you so beautifully give us a sense of how AIs think, what they can do amazingly and what they can't do. But -- do I read you right, that you think we really need quite an urgent revolution in education to help kids do the things that humans can do better than AIs?
نوريكو: نعم، نعم، نعم. لأننا نحن البشر نستطيع أن نفهم المعنى. وهذا شيء يفتقر إليه الذكاء الاصطناعي جدًا. لكن معظم الطلاب فقط يعبّئ المعرفة بدون فهم معناها، لذا فهذه ليست معرفة إنما فقط حفظ، والذكاء الاصطناعي يمكنه فعل الشيء نفسه. لذا فعلينا التفكير في نوعية تعليم جديدة.
NA: Yes, yes, yes. Because we humans can understand the meaning. That is something which is very, very lacking in AI. But most of the students just pack the knowledge without understanding the meaning of the knowledge, so that is not knowledge, that is just memorizing, and AI can do the same thing. So we have to think about a new type of education.
كريس: تعنين الانتقال من الحفظ والتكرار إلى المعنى.
CA: A shift from knowledge, rote knowledge, to meaning.
نوريكو: نعم.
NA: Mm-hmm.
كريس: حسنًا، هناك تحدٍّ للقائمين على التعليم هناك. شكرًا جزيلاً لكِ.
CA: Well, there's a challenge for the educators. Thank you so much.
نوريكو: شكرًا جزيلاً لك. شكرًا لكم.
NA: Thank you very much. Thank you.
(تصفيق)
(Applause)