Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
כריס אנדרסון: עזור לנו להבין מהי למידת מכונה, כי נראה שזהו גורם מרכזי בהתרגשות ובדאגה הרבות סביב הבינה המלאכותית. איך פועלת למידת המכונה? סבסטיאן ת'רן: הבינה המלאכותית ולמידת המכונה
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
הן בנות 60 שנה לערך, ועד לאחרונה לא היה להן רגע חשוב. והסיבה היא, שכיום הגענו להיקפי המיחשוב ומערכי הנתונים הנחוצים כדי להפוך את המכונות לחכמות. אז ככה זה עובד: אם אתה מתכנת היום מחשב, למשל את הטלפון שלך, אתה בעצם מעסיק מהנדסי תוכנה שיכתבו מתכון ארוך מאד דומה ל"אם המים חמים מדי, הנמך את הטמפרטורה. "אם הם קרים מדי, העלה את הטמפרטורה." המתכונים אינם בני עשר שורות בלבד, אלא בני מיליון שורות. טלפון סלולרי מודרני מכיל 12 מיליון שורות קוד. דפדפן מכיל 5 מיליון שורות קוד. וכל באג במתכון עלול לגרום למחשב לקרוס. ולכן מהנדסי תוכנה משתכרים טוב כל-כך. מה שחדש היום הוא שהמחשבים יכולים להגדיר כללים משלהם. אז במקום שמומחה יתכנת, שלב אחר שלב, כלל לכל אפשרות, נותנים כעת למחשב דוגמאות ולפיהן הוא מפרש בעצמו את הכללים.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
דוגמה טובה היא "אלפא-גו", ש"גוגל" רכשה לאחרונה. בד"כ, במשחקים, כותבים את כל הכללים, אבל במקרה של "אלפא-גו", המערכת בחנה מעל מיליון משחקים, הצליחה להקיש מתוכם כללים משלה ואז להביס את אלוף העולם ב"גו". זה מלהיב, כי זה משחרר את מהנדס התוכנה מהצורך להיות גאון וזה מעביר את הנטל אל הנתונים. כפי שאמרתי, נקודת המפנה שאיפשרה זאת - מביך מאד: התזה שלי עסקה בלמידת מכונה. היא ממש לא חשובה. אל תקראו אותה, כי זה היה לפני 20 שנה ואז, המחשבים היו בגודל מוח של מקק. היום הם מספיק חזקים כדי לחקות מעין חשיבה אנושית ייחודית. ואז המחשבים מנצלים את העובדה שהם יכולים לבחון נותנים מהר בהרבה מבני אדם. אז באומרי ש"אלפא-גו" בחנה מעל מיליון משחקים, אין מומחה אנושי שמסוגל לבחון מיליון משחקים. "גוגל" בחנה מעל מאה מיליארד דפי אינטרנט. אין אדם שמסוגל לבחון מאה מיליארד דפי אינטרנט. ולכן, המחשבים מסוגלים להגדיר כללים שבני-אדם לא מסוגלים להגדיר.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
כ"א: אז במקום לצפות מהלכים בסגנון "אם הוא עושה כך, אעשה כך," זה יותר כמו "ככה נראה דפוס משחק מנצח." ס"ת: כן. תחשוב למשל על גידול ילדים.
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
אינך מגדיר לילדים במשך 18 שנה כלל לכל אפשרות ואז שולח אותם לעולם עם איזו תוכנה גדולה. הם נכשלים, נופלים, קמים, חוטפים סטירות או מכות, ורוכשים נסיון חיובי, ציונים טובים בביה"ס, ומוצאים בעצמם את דרכם. זה מה שקורה היום עם מחשבים, ובבת-אחת, תכנות המחשבים נעשה קל מאד. כעת כבר איננו צריכים לחשוב, אלא רק לתת להם המון נתונים.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
כ"א: וזה היה גורם מרכזי בשיפור המדהים בתחום המכוניות האוטונומיות. הראית לי קודם דוגמה. תוכל להסביר מה קורה בתחום זה?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
ס"ת: זאת נהיגה במכונית אוטונומית שיש לנו ב"יודסיטי", ולאחרונה פיתחנו למשהו בשם "וויאג'." השתמשנו במה שקרוי "למידה עמוקה" כדי לאמן את המכונית לנהוג בעצמה, וכאן רואים נהיגה ממאונטן וויו שבקליפורניה עד לסן-פרנסיסקו בכביש אל-קמינו ריאל ביום גשום, עם רוכבי אופניים, הולכי רגל ו-133 רמזורים. ומה שחדשני פה, הוא שלפני ירחים רבים מאד ייסדתי את צוות המכונית האוטונומית של "גוגל". ואז, שכרתי את מהנדסי התוכנה הכי טובים בעולם כדי שיגדירו את הכללים הכי טובים בעולם. כאן מדובר באימון בלבד. נהגנו בכביש הזה 20 פעם, הכנסנו את כל הנתונים למוח של המחשב, ואחרי כמה שעות עיבוד, הוא הפיק התנהגות שלעתים קרובות עולה על הזריזות האנושית. כך שנעשה קל מאד לתכנת את זה. היא אוטונומית ב-100% לאורך כ-50 ק"מ במשך שעה וחצי.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
כ"א: תסביר את זה - בחלק הגדול של התוכנה, משמאל, רואים בעצם מה שהמחשב מזהה כמשאיות וכלי-רכב ועקיפות וכן הלאה.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
ס"ת: מימין רואים את המצלמה, שזה הקלט העיקרי, והיא משמשת לאיתור נתיבים, מכוניות אחרות, רמזורים. הרכב מצויד במכ"ם שמבצע אומדן מרחקים. זה נפוץ מאד במערכות כאלה. משמאל רואים שרטוט לייזר, ובו רואים מכשולים כמו עצים וכו' שהלייזר מזהה. אבל כמעט כל העבודה המעניינת מתמקדת כעת בתמונת המצלמה. אנו בעצם עוברים מחיישנים מדויקים כמו מכ"ם ולייזר לחיישנים מסחריים וזולים מאד. מצלמה עולה פחות מ-8 דולר.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
כ"א: ומהי הנקודה הירוקה משמאל? יש לה איזו משמעות?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
ס"ת: זאת נקודת חיזוי עבור בקרת השיוט הסתגלנית, והיא עוזרת לנו להבין איך לווסת את המהירות לפי המרחק מהמכוניות שלפניך.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
כ"א: יש לך גם דוגמה איך מתרחשת הלמידה העמוקה. אולי נוכל לראות אותה. ספר על זה.
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
ס"ת: בדוגמה בזאת בה הצבנו אתגר לתלמידי "יודסיטי" להיבחן במה שאנו מכנים "ננו-תואר בנהיגה אוטונומית." נתנו להם את בסיס הנתונים הזה ושאלנו, "האם תוכלו למצוא איך לנהוג במכונית הזאת?" ואם תביט בתמונות האלה, אז כמעט אפילו לבני אדם, בלתי-אפשרי להגדיר נהיגה נכונה. ערכנו תחרות בשם "תחרות למידה עמוקה, "תחרות בינה מלאכותית," והקצבנו לסטודנטים 48 שעות. לבית-תוכנה כמו "גוגל" או" פייסבוק" דבר כזה עולה לפחות בשישה חודשי עבודה. אז החלטנו שב-48 שעות זה מצוין. וכעבור 48 שעות קיבלנו מהסטודנטים 100 הצעות, וארבע הטובות ביותר פתרו את זה באופן מושלם. הנהיגה בעזרת למידה עמוקה טובה יותר ממה שאני הצלחתי לבצע בהדמיה הזו. ושוב, זו אותה מתודולוגיה. זה כל הקסם: היום, כשנותנים למחשב מספיק נתונים ומספיק זמן כדי להבין את הנתונים, הוא מגדיר בעצמו את הכללים.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
כ"א: וזה הוביל לפיתוח יישומים רבי-עוצמה בכל מיני תחומים. דיברת איתי על סרטן. אני יכול להקרין את הסרטון הזה?
ST: Yeah, absolutely, please. CA: This is cool.
ס"ת: כן, בהחלט. בבקשה. כ"א: זה מעולה.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
ס"ת: זו הצצה למה שקורה בתחום שונה לגמרי. זהו תגבור - או תחרות - זה נתון לפרשנות - מול אנשים שמשתכרים 400,000 דולר בשנה, רופאי-עור, מומחים מיומנים מאד. דרושות מעל 10 שנים התמחות כדי להיעשות לרופא-עור טוב. כאן אתה רואה את גירסת למידת המכונה. זה קרוי "רשת עצבית". "רשתות עצביות" הוא המונח הטכני לאלגוריתמים של למידת המכונה. הן קיימות מאז שנות ה-80. זו שכאן הומצאה ב-1988 ע"י בחור מ"פייסבוק" בשם יאן לה-קאן, והיא מפיצה שלבי נתונים דרך מה שאפשר לדמות למוח האנושי. זה לא בדיוק אותו הדבר, אבל זה חיקוי של זה. זה עובר שלב-שלב. בשלב הראשון האלגוריתם לוקח קלט חזותי וממצה מתוכו שוליים, קווים ונקודות. בשלב הבא מדובר בשוליים המורכבים יותר וצורות, כמו חצי-ירח, בסופו של דבר, הוא מסוגל לבנות מושגים מורכבים מאד - אנדרו נג הצליח להוכיח שהוא מסוגל לזהות פנים של כלבים וחתולים בכמות עצומה של תמונות.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
הסטודנטים שלי בסטנפורד הוכיחו שאם מאמנים אותו בעזרת 129,000 תמונות של מחלות עור, כולל מלנומות וקרצינומות, הוא משיג תוצאות טובות כמו של רופאי העור האנושיים הכי טובים. וכדי להשתכנע שזה אכן כך, בודדנו בסיס נתונים עצמאי והגשנו אותו לרשת שלנו ול-25 רופאי-עור מוסמכים בתקן של סטנפורד, והשווינו ביניהם. וברוב המקרים הם היו בשוויון או ביתרון מבחינת ביצועי דיוק הסיווג לעומת רופאי העור האנושיים.
CA: You were telling me an anecdote. I think about this image right here. What happened here?
כ"א: סיפרת לי אנקדוטה. נראה לי שזה היה קשור לתמונה הזאת. מה קרה כאן?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
ס"ת: זה היה ביום חמישי האחרון. זה קטע מרגש. מה שהראינו קודם, שפרסמנו ב"נייצ'ר" בתחילת השנה, היה הרעיון שאנו מראים תמונות לרופאי-עור ולמחשב שלנו, ומונים כמה פעמים הם צודקים. אבל כל התמונות האלה הן מהעבר. כולן עברו ביופסיה כדי לוודא שהסיווג שלנו נכון. זאת - לא. זאת צולמה בסטנפורד ע"י שותף שלנו. לפי הסיפור, השותף שלנו, רופא-עור בעל פרסום עולמי, אחד משלושת הטובים ביותר, מסתבר, הביט בשומה הזאת ואמר, "זה איננו סרטן עור." ואז הוא חשב לרגע, ואמר, "אוודא זאת בעזרת יישומון." הוא שלף את ה"אייפון" שלו והריץ את היישום שלנו, את ה"רופא-עור-כיס" שלנו, וה"אייפון" קבע: סרטן. מלנומה. הוא נבוך, והחליט, "טוב, אולי אני סומך על ה'אייפון' קצת יותר מאשר על עצמי," והוא שלח את זה לביופסיה במעבדה. והממצא היה "מלנומה תוקפנית." אז נראה לי שזו הפעם הראשונה שבה מצאנו, באמצעות הלמידה העמוקה, מצב שבו מלנומה אצל אדם היתה עלולה לא להתגלות אילולא הלמידה העמוקה.
CA: I mean, that's incredible.
כ"א: מדהים!
(Applause)
(מחיאות כפיים)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
נראה לי שיהיה מיד ביקוש מיידי ליישומון כזה, וזה יכול להפחיד המון אנשים. אתה חושב לעשות זאת, ליצור יישומון שמאפשר בדיקה עצמית?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
ס"ת: הדואר הנכנס שלי מוצף בבקשות ליישומוני סרטן, עם סיפורים קורעי-לב של אנשים. יש אנשים שהוסרו אצלם 10, 15, 20 מלנומות, והם חוששים שיש כאלה שהוחמצו, כמו זה, ומגיעות גם בקשות, לא יודע, למכוניות מעופפות ופניות להרצות. המסקנה שלי היא שנחוצות לנו בדיקות נוספות. אני רוצה להיזהר מאד. קל מאד לתת תוצאה מסנוורת ולהרשים את הקהל ב-TED. קשה הרבה יותר לשחרר מוצר באופן אחראי. ואם אנשים ישתמשו ביישומון הזה ויחליטו לא להתייעץ עם רופא בגלל טעות שלנו, ארגיש רע מאד בגלל זה. אז כרגע אנו עורכים בדיקות קליניות, ואם מהבדיקות יתברר שהנתונים שלנו מוצקים, אולי נוכל מתישהו לקחת טכנולוגיה כזאת, ולהביאה לקליניקה של סטנפורד ולעולם כולו, למקומות שאליהם רופאים מסטנפורד לא מגיעים לעולם.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
כ"א: אם אני שומע נכון נראה שמה שאתה אומר, משום שאתה עובד עם צבא של תלמידי "יודסיטי", שאתם משתמשים בלמידת מכונה בצורה שונה מזו שיכולה להתנהל בחברה, שאתם משלבים בין למידת מכונה וחוכמת המונים. האם אתה אומר שלפעמים נראה לך שזה יכול להתעלות על ביצועיה של חברה, אפילו חברה גדולה? ס"ת: לדעתי יש כיום מקרים שמדהימים אותי,
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
ושאני עדיין מנסה להבין. כריס מתייחס לתחרויות שאנו מנהלים. אנו מקציבים בהן 48 שעות, והצלחנו לבנות מכונית אוטונומית שיכולה לנהוג ממאונטן וויו ועד סן-פרנסיסקו על כביש סלול. זה לא ממש שווה-ערך להישגי "גוגל" אחרי שבע שנות עבודה שלה, אבל אנו מתקרבים לזה. וזה דרש מאיתנו רק שני מהנדסים ושלושה חודשי עבודה. והסיבה היא שיש לנו צבא של סטודנטים שמשתתפים בתחרויות. איננו היחידים שמשתמשים במיקור המונים. "אובר" ו"דידי" משתמשות במיקור המונים עבור נהיגה. "אייר בי-אן-בי" משתמשת במיקור המונים למקומות לינה. יש היום הרבה דוגמאות למיקור המונים עבור איתור באגים או קיפול חלבונים, כל מיני דברים בעזרת מיקור המונים. אבל אנו הצלחנו לבנות את המכונית הזאת תוך 3 חודשים, אז אני מעריך מחדש איך אנו מארגנים תאגידים.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
יש לנו סגל בן 9,000 איש שאינם מועסקים ושאינני מפטר. הם מגיעים לעבודה מבלי שאדע אפילו. והם מגישים לי 9,000 הצעות. אני לא מחוייב לקבל אף אחת מהן. בסופו של דבר - אני משלם רק לזוכים, אז אני די קמצן פה, ואולי זה לא הכי טוב. אבל מצד שני הם רואים בזה חלק מההשכלה שלהם, וזה נחמד. אבל הסטודנטים האלה הצליחו לייצר תוצאות מדהימות של למידה עמוקה. אז, כן. מדהים לשלב בין אנשים נפלאים ולמידה עמוקה מעולה.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
כ"א: גארי קספרוב אמר ביום הראשון [ב-TED2017] שהמנצחים בשחמט, במפתיע, הם שני שחקני שחמט חובבים עם שלוש תוכנות מחשב בינוניות, בינוניות עד טובות, שעולות בביצועיהן על רב-אמן מול שחקן מצטיין, כאילו כל זה חלק מהתהליך. ונראה שאתה מדבר על גירסה עשירה בהרבה של אותו הרעיון. ס"ת: כן, תראה, כשעקבת אחרי הפנלים הנפלאים של אתמול בבוקר,
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
שני מפגשים בנושא בינה מלאכותית, עליית הרובוטיקה והתגובה האנושית, נאמרו הרבה מאד דברים חשובים. אבל אחת הדאגות היא שלפעמים אנו מבלבלים בין מה שנעשה בפועל בתחום הבינה המלאכותית לבין הפחד מהרובוטים, ומכך שהבינה המלאכותית תפתח תודעה, נכון? הדבר האחרון שאני רוצה הוא שהבינה המלאכותית שלי תהיה מודעת. אני לא רוצה להיכנס למטבח ולגלות מהמקרר שלי התאהב במדיח ואומר לי שבגלל שלא התנהגתי יפה, הוא כבר לא מקרר לי את האוכל. לא הייתי קונה מוצרים כאלה. אני לא רוצה בהם. אבל האמת היא שמבחינתי, הבינה המלאכותית תמיד נחשבה להגברה של האנושיות. זו הגברה שלנו שנועדה להוסיף לנו עוצמה. ואני חושב שקספרוב קלע למטרה. השילוב בין החוכמה האנושית לחוכמה של המכונות הוא שמעצים אותנו. הרעיון של התעצמות בעזרת מכונות עתיק כמו המכונות עצמן. המהפכה החקלאית התחוללה משום שיצרנו מנועי קיטור וציוד חקלאי שלא היה מסוגל לפעול בעצמו, המכונות מעולם לא החליפו אותנו; הן תגברו אותנו. ואני מאמין שהגל החדש הזה של בינה מלאכותית, יעצים אותנו בהרבה כמין אנושי.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
כ"א: מיד נגיע לזה, אבל כהמשך לחלק שמפחיד אנשים מסוימים, למשל, הפחד מכך שמחשב ישכתב את הקוד שלו, שיוכל ליצור עותקים של עצמו, לנסות גירסאות קוד שונות, אולי אפילו באופן אקראי, ואז לבדוק לראות אם המטרה הושגה ויש שיפור. נניח שהמטרה היא להשתפר במבחן אינטליגנציה. מחשב שטוב בכך במידה בינונית, יכול לנסות מיליון גירסאות. למצוא אחת עדיפה, ואז לחזור על זה. אז הדאגה היא שייווצר אפקט של יציאה משליטה, כשביום חמישי בערב הכל בסדר, וכשחוזרים למעבדה ביום ששי בבוקר, בגלל המהירות של המחשב וכן הלאה, הכל משתגע, ופתאום --
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
ס"ת: הייתי אומר שזאת אפשרות, אבל אפשרות דחוקה ביותר. אנסה לתרגם את מה ששמעתי ממך. במקרה של "אלפא-גו", היה לנו בדיוק דבר כזה: המחשב שיחק נגד עצמו ולמד כללים חדשים. ולמידת המכונה היא אכן שכתוב של הכללים. זהו שכתוב של הקוד. אבל לדעתי לא היתה כל סיבה לדאגה ש"אלפא-גו" ישתלט על העולם. הוא אפילו לא יודע לשחק שחמט.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
כ"א: לא, לא, אבל כל אלה הם תחומים ייחודיים מאד. אבל אפשר לדמיין... ראינו הרי זה עתה מחשב שכנראה מסוגל לעבור את בחינות הכניסה לאוניברסיטה, שיכול -- הוא לא יודע לקרוא או להבין כמונו, אבל הוא בהחלט מסוגל לקלוט את כל הטקסט ואולי למצוא דפוסי משמעות מוגברים. האם אין סיכוי שכאשר כל זה יתרחב, ייווצר אפקט אחר של יציאה משליטה?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
ס"ת: כאן אני מותח את הגבול, בכנות. הסיכוי קיים -- אינני רוצה להמעיט בערך הדבר -- אבל לדעתי זה רחוק וזה לא מעסיק אותי בימים אלה, כי לדעתי המהפכה הגדולה מתחוללת במקום אחר. כל מה שמוצלח בבינה המלאכותית עד היום היה מוגבל מאד לתחומו, וזה מצליח על יסוד רעיון אחד ויחיד: כמויות עצומות של נתונים. הסיבה ש"אלפא-גו" מוצלח כל-כך היא בגלל כמויות עתק של משחקי גו, "אלפא-גו" לא מסוגל לנהוג במכונית או להטיס מטוס. המכוניות האוטונומית של "גוגל" ושל "יודסיטי" מצליחות בזכות כמויות עתק של נתונים, והן לא יודעות לעשות משהו אחר. הן לא יודעות לשלוט באופנוע. זה מאד ספציפי, ומוגבל לתחום מסוים, וזה נכון גם לגבי יישומון הסרטן שלנו. לא היתה כמעט שום התקדמות בדבר שקרוי "בינה מלאכותית כללית," כשניגשים לבינה מלאכותית ואומרים, "תמציאי לי תורת יחסות פרטית "או את תורת המיתרים." היא לגמרי בחיתוליה.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
הסיבה שאני רוצה להדגיש זאת, אני רואה את הדאגות ואני מכיר בהן, אבל אם יש דבר אחד שכדאי לחשוב עליו, הייתי שואל את עצמי, "מה אם ניקח כל משימה שחוזרת על עצמה "ונתייעל פי מאה?" מסתבר שלפני 300 שנה כולנו עבדנו בחקלאות עבדנו במשק ועשינו מטלות שחוזרות על עצמן. היום, 75% מאיתנו עובדים במשרדים ועושים דברים שחוזרים על עצמם. נעשינו עבדים לגליון האלקטרוני. ולא מדובר רק בעובדי הצווארון הכחול. נעשינו לרופאי-עור שעושים דברים שחוזרים על עצמם, עורכי-דין שעושים דברים שחוזרים על עצמם. לדעתי, בקרוב נוכל לקחת בינה מלאכותית כלשהי, להביט מעבר לכתף, וזה יהפוך אותנו ליעילים פי 10 או 50 במשימות שחוזרות על עצמן. זה מה שמעסיק אותי.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
כ"א: זה נשמע מרתק מאד. הדרך לשם נראית קצת מפחידה לאנשים מסוימים, כי ברגע שמחשב יוכל לעשות מטלות שחוזרות על עצמן טוב בהרבה מרופא העור או מהנהג, שעל זה במיוחד מדברים הרבה היום, לפתע ייעלמו מיליוני מקומות עבודה, והארץ תהיה במהפכה עוד לפני שבכלל נגיע להיבטים הנהדרים שיתאפשרו.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
ס"ת: כן, וזאת בעיה, בעיה רצינית. ציינו אותה אתמול כמה מרצים-אורחים. לפני שעליתי לבמה, הודיתי שאני אדם חיובי ואופטימי, אז בואו ואתן לכם נאום מכירות אופטימי, דמיינו את עצמכם לפני 300 שנה. אירופה שרדה זה עתה 140 שנות מלחמה מתמשכת, איש מכם אינו יודע קרוא וכתוב, המשרות שיש לכם היום בכלל לא היו, כמו בנקאי השקעות, מהנדס תוכנה או מגיש חדשות. כולנו היינו בשדות, עובדים בחקלאות. מופיע סבסטיאן קטן ובכיסו מנוע קיטור קטן, ואומר, "חבר'ה, תראו את זה. "זה יכפיל את כוחכם פי 100 ואז תוכלו לעסוק במשהו אחר." ובאותם ימים לא היתה במה אמיתית, כריס ואני הסתובבנו עם הפרות ברפת, והוא אומר לי, "זה מדאיג אותי מאד, "כי אני חולב את פרתי בכל יום. מה אם המכונה תעשה את זה במקומי?"
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
אני מעלה את זה, כי כולנו מכירים בקידמה שחלה בעבר ובתועלת שלה, כמו ה"אייפון", המטוס, החשמל או התרופות. אנו נהנים לחיות עד גיל 80, מה שלא היה אפשרי לפני 300 שנה. אבל משום-מה איננו מתייחסים כך אל העתיד. אם אני מסתכל על תפקידי כמנכ"ל, הייתי אומר ש-90% מעבודתי הם דברים חוזרים ונשנים, אני לא נהנה מזה, אני מקדיש כארבע שעות ביום להתעסקות חוזרת ונשנית בדוא"ל מטופש. ואני מת למשהו שיעזור לי להיפטר מזה. מדוע? כי אני מאמין שכולנו יצירתיים בטירוף, וקהילת TED - יותר מכל. אבל אפילו עובדי צווארון כחול - לדעתי, אם תיגש למשרתת או למשרת במלון תזמין אותם למשקה, בתוך שעה תקבל מהם רעיון יצירתי. הדבר הזה יגרום ליצירתיות הזאת להתגשם. למשל, מה אם נוכל לבנות "גוגל" תוך יום? מה אם יכולנו להמציא על כוס בירה את ה"סנאפצ'ט" הבא, מה שזה לא יהיה, ולמחרת בבוקר זה כבר יפעל?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
וזה איננו מדע בדיוני. מה שהולך לקרות הוא, שאנו כבר חלק מההיסטוריה, שהוצאנו לאור את היצירתיות המדהימה הזאת בכך שהשתחררנו מהשעבוד לחקלאות ואח"כ, כמובן, מהעבודה במפעל והמצאנו כה הרבה דברים. שזה עתיד ללכת ולהשתפר, לדעתי. ותהיינה לזה תוצאות-לוואי נהדרות. אחת מתוצאות הלוואי תהיה שדברים כמו מזון, אספקה רפואית, השכלה, מחסה ותחבורה ייעשו זולים בהרבה לכולנו, ולא רק לעשירים.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
כ"א: המממ... אז כשמרטין פורד טען שהפעם זה אחרת משום שהבינה בה נעזרנו בעבר כדי למצוא דרכים חדשות תידחק החוצה באותו הקצב ע"י מחשבים שישתלטו על הדברים האלה, מה שאני שומע ממך זה שלא לגמרי הודות ליצירתיות האנושית... האם לדעתך זה שונה מן היסוד מסוג היצירתיות שהמחשבים מסוגלים לה?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
ס"ת: אני מאמין בתוקף כאיש בינה מלאכותית -- שלא ראיתי שום התקדמות אמיתית מבחינת יצירתיות וחשיבה לא-שגרתית. מה שאני רואה כרגע -- וחשוב מאד שאנשים יבינו זאת, כי המושג "בינה מלאכותית" כה מאיים, וגם סטיבן ספילברג הוסיף כאן סרט למדורה, והמחשב נהיה לפתע אדון העולם, בעוד שזו רק טכנולוגיה. טכנולוגיה שעוזרת לנו לבצע מטלות חוזרות ונשנות. וההתקדמות היתה כולה בהיבט החזרתי: בגילוי מסמכים חוקיים, בניסוח טיוטות של חוזים, בצילומי רנטגן של החזה, ואלה דברים כל-כך מוגבלים וספציפיים, שאני לא רואה איפה האיום הגדול על האנושות. למעשה, אנו כבני-אדם -- כי בואו ונודה בכך: נעשינו אדם-על הפכנו את עצמנו לאדם-על. אנו יכולים לחצות את האוקיינוס האטלנטי בתוך 11 שעות. אנו יכולים לשלוף מהכיס מכשיר ולצעוק לתוכו כך שישמעו באוסטרליה, ושהשומע יצעק אלינו בחזרה בזמן אמת. פיזית, זה בלתי-אפשרי. אנו שוברים את כללי הפיזיקה. בסופו של דבר אנו נזכור הכל, את כל מה שאמרנו ועשינו, אתם תזכרו כל אדם, וזה מצוין בשבילי, בשלבי השטיון המוקדמים שלי. סליחה, מה אמרתי? שכחתי.
CA: (Laughs)
כ"א: (צוחק)
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
ס"ת: מנת המשכל שלנו תהיה כנראה 1000 או יותר. לילדים כבר לא יהיו שיעורי איות, כי כבר לא תהיה בעיית איות. כבר לא תהיינה בעיות בחשבון. ולדעתי מה שבאמת יקרה הוא שנוכל להיות סופר-יצירתיים. ואנו כבר כאלה. אנו יצירתיים. זהו הנשק הסודי שלנו.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
כ"א: אז מקומות העבודה שנעלמים, במובן מסוים, ככל שזה כואב, בני-אדם מסוגלים ליותר מאשר לעסוק במשרות האלה. זהו החלום. החלום הוא שבני האדם יוכלו להתעלות למישור חדש של העצמה וגילויים. זהו החלום.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
ס"ת: וגם תחשוב על זה: אם תסתכל על ההיסטוריה האנושית, לא משנה מתי -- לפני 60,000 או 100,000 שנה, פלוס-מינוס -- כמעט כל מה שיקר לנו מבחינת ההמצאות, הטכנולוגיה, הדברים שבנינו, כל אלה הומצאו ב-150 השנים האחרונות. אם מוסיפים את הספר ואת הגלגל, זה קצת יותר זמן. או את הגרזן. אבל הטלפון, נעלי הספורט, הכסאות האלה, הייצור המודרני, הפניצילין -- הדברים שיקרים לנו. בעיני זה אומר שב-150 השנים הבאות נגלה דברים נוספים. למעשה, קצב ההמצאות התגבר ולא נחלש, לדעתי. אני מאמין שרק אחוז אחד מהדברים המעניינים התגלה עד כה. עוד לא ריפאנו את הסרטן. אין לנו מכוניות מעופפות -- עדיין. אני מקווה לשנות את זה. זו דוגמה למשהו שאנשים לעגו לו. מצחיק, לא? "עובדים בחשאי על מכוניות מעופפות." עדיין איננו חיים פי 2 זמן, נכון? אין לנו שתל קסום במוח שמספק לנו מידע נחוץ. אולי אתם מזועזעים מכך, אבל אני מבטיח לכם שכשזה יהיה, תמותו על זה. אני מקווה כך. זה קצת מפחיד, אני יודע.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
יש עוד המון דברים שטרם המצאנו ושעוד נמציא. אין לנו מגיני כבידה. איננו יכולים לשגר את עצמנו ממקום למקום. זה נשמע מגוחך, אבל לפני כ-200 שנה המומחים היו בדעה אחת שהתעופה לא תיתכן, אפילו לפני 120 שנה, ושאם ננוע מהר יותר מכפי יכולתנו לרוץ, נמות מיד. אז מי יאמר שהיום לא נכון לקבוע שאי-אפשר לשגר אדם מכאן למאדים?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
כ"א: סבסטיאן, תודה רבה לך על חוכמתך והחזון רב ההשראה שלך. תודה רבה לסבסטיאן ת'רן. זה היה נהדר. (מחיאות כפיים)