Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
Крис Андерсон: Объясните нам, что такое машинное обучение, так как, кажется, это ключевая причина бурного восторга, а также беспокойства вокруг искусственного интеллекта. Как работает машинное обучение?
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
Себастьян Трун: Искусственному интеллекту и машинному обучению около 60-ти лет, но наилучшее для них время настало совсем недавно. Причина в том, что сегодня мы достигли того уровня вычислений и объёма данных, который был необходим, чтобы сделать машины умными. Вот как это работает. Если сегодня вы создаёте программу для компьютера или смартфона, то нанимаете инженеров-программистов, которые пишут длиннющий кулинарный рецепт, например: «Если вода слишком горячая, уменьшите температуру. Если слишком холодная, увеличьте температуру». Только эти рецепты длиной не в 10 строк. Они содержат миллионы строк. У современного мобильного телефона — код в 12 миллионов строк. У браузера — пять миллионов строк кода. И каждая ошибка в таком рецепте может вызвать сбой в работе компьютера. Именно поэтому инженер-программист так много зарабатывает. Новизна в том, что сегодня компьютеры сами могут находить свои правила. Поэтому вместо эксперта, пошагово расшифровывающего правило для каждого непредвиденного случая, теперь вы даёте компьютеру образцы, и он сам делает выводы.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
Хорошим примером является AlphaGo, программа, недавно созданная Google. Обычно, участвуя в игре, вы записывали все правила, но в случае с AlphaGo система изучила более миллиона игр, смогла вывести свои правила и выиграла у действующего чемпиона мира по игре в го. Это замечательно, так как это помогает программисту. Ему не нужно быть очень умным; всё сводится к данным. Как я уже сказал, точка перегиба, где это стало реально возможно... очень неловко, моя диссертация была о машинном обучении. Она не заслуживала внимания, не читайте её, ведь это было 20 лет назад, когда компьютеры были такими же умными, как тараканы. Теперь они достаточно мощные, чтобы имитировать специализированное человеческое мышление. А также компьютеры пользуются тем, что они могут изучить гораздо больше данных, чем люди. Я бы сказал, что AlphaGo изучила более миллиона игр. Никакой человек–специалист не может изучить миллион игр. Google изучил более ста миллиардов веб-страниц. Человек не может изучить сто миллиардов веб-страниц. В результате компьютер может найти те правила, которые даже люди найти не могут.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
КА: То есть вместо того, чтобы думать: «Если он сделает это, я сделаю то», он, скорее, говорит: «Вот это выглядит лучше всего, вот это выглядит наилучшим образом».
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
СТ: Да, подумайте, как вы растите детей. Вы не тратите первые 18 лет, давая детям инструкции по каждому поводу, вы даёте им свободу без такой подробной программы. Они спотыкаются, падают, встают, их ругают или шлёпают; у них появляются и положительный опыт, хорошие оценки в школе, и они понимают всё это сами. То же самое сейчас с компьютерами, и это неожиданно делает программирование гораздо легче. Сейчас нам больше не нужно думать. Мы просто даём им много данных.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
КА: Это стало ключевым фактором для впечатляющего улучшения способностей беспилотных автомобилей. Я думаю, что вы показали мне пример. Можете ли вы объяснить, что здесь происходит?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
СТ: Это поездка беспилотного автомобиля, который был у нас на Udacity; его сейчас преобразовали в побочный продукт Voyage. Мы использовали так называемое глубокое обучение, чтобы обучить машину ездить самой; и здесь она едет из Маунтин-Вью, Калифорния, до Сан-Франциско по Эль Камино Реал в дождливый день, с велосипедистами, пешеходами и 133-мя светофорами. Новизна в том — давным-давно я основал в Google группу по беспилотным автомобилям. Тогда я нанял лучших в мире инженеров-программистов, чтобы найти наилучшие правила. Эту обучили недавно. Мы проехали эту дорогу 20 раз, мы внесли все эти данные в мозг компьютера, и после нескольких часов обработки он приобрёл характеристики, часто превосходящие способности человека. Программировать его стало очень легко. Он автономный на 100% и покрывает 53 километра за полтора часа.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
КА: Итак, объясните мне: в большой, левой части этой программы вы видите, в общем, то, что компьютер видит как машины и грузовики, и эти точки, обгоняющие его, и так далее.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
СТ: Справа вы видите изображение с камеры, являющееся основным источником данных для поиска полос движения, других машин, светофоров. У машины есть радар для оценки расстояния. Его очень часто используют в системах такого типа. Слева вы видите лазерную диаграмму с деревьями и другими препятствиями, изображёнными лазером. Но почти вся интересная работа нынче связана с изображением из камеры. Мы в самом деле переходим от высокоточных датчиков — радаров и лазеров — к дешёвым сенсорам массового спроса. Камера стоит менее восьми долларов.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
КА: А эта зелёная точка в левой части, что это такое? Это что-то важное?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
СТ: Это точка взгляда вперёд вашего адаптивного круиз–контроля. Она помогает ему понять, как отрегулировать скорость, основываясь на расстоянии до автомобилей впереди.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
КА: Я думаю, у вас заодно есть пример того, как в действительности происходит обучение. Можем ли мы это увидеть? Расскажите об этом.
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
СТ: Это пример сложного задания, которое мы дали студентам Udacity, получающим наностепень по управлению беспилотным автомобилем. Мы дали им этот набор данных и сказали: «Можете ли вы, ребята, понять, как вести эту машину?» И если вы посмотрите на снимки — даже для людей практически невозможно правильно ей управлять. Мы организовали конкурс и сказали: «Это конкурс по глубокому обучению, соревнование в ИИ» — и дали студентам 48 часов. Если вы — софтверная компания вроде Google или Facebook, нечто подобное будет стоить вам как минимум полгода работы. Поэтому мы решили: 48 часов — это прекрасно. И в течение 48-ми часов мы получили около 100 решений от студентов. У четверых лучших это получилось идеально. После глубокого обучения она в этих условиях едет лучше меня. И опять, это тот же метод. Это волшебная вещь. Когда вы даёте компьютеру достаточно данных и достаточно времени, чтобы их понять, он находит свои правила.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
КА: И это привело к развитию мощных приложений во всех областях. На днях вы мне говорили о раке. Можно показать это видео?
ST: Yeah, absolutely, please. CA: This is cool.
СТ: Да, конечно, пожалуйста. КА: Отлично.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
СТ: Это как бы взгляд на то, что происходит в абсолютно другой области. Это дополнение, или соперник — в зависимости от точки зрения, — для людей, которым платят 400 000 долларов в год: дерматологов, высококвалифицированных специалистов. Более десятилетия практики уходит на то, чтобы стать хорошим дерматологом. А здесь вы видите результат работы машинного обучения. Это называется нейронной сетью. «Нейронные сети» — это технический термин для алгоритмов машинного обучения. Они существовали с 1980-х годов. Вот эта, изобретённая в 1988 году научным сотрудником Facebook Яном ЛеКуном, преобразует данные во внутренних слоях структуры, напоминающей человеческий мозг. Это не вполне то же самое, но имитирует тот же процесс. Данные проходят слой за слоем. Первый слой берёт входящий визуальный сигнал и выделяет края, штрихи и точки. На следующем слое появляются более сложные очертания и формы, такие как маленькие полумесяцы. И, в конечном счёте, она в состоянии создавать действительно сложные структуры. Эндрю Ын смог показать, что она в состоянии находить морды кошек и собак среди множества изображений.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
Моя группа студентов из Стэнфорда показала, что если вы тренируете её на 129 000 снимков состояний кожи, включая меланомы и карциномы, вы можете достичь такого же хорошего результата, как лучшие специалисты-дерматологи. И чтобы убедить себя, что это так, мы создали независимую базу данных, которую мы дали нашей нейросети и 25-ти сертифицированным врачам-дерматологам уровня Стэнфорда и сравнили их результаты. И в большинстве случаев они были на уровне или выше показателей точности классификации специалистов–дерматологов.
CA: You were telling me an anecdote. I think about this image right here. What happened here?
КА: Вы мне рассказали об одном случае. Я имею в виду вот это фото. Что здесь случилось?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
СТ: Это было в прошлый четверг. Это очень волнующая история. То, о чём я уже рассказал, мы опубликовали в журнале «Nature» в этом году. Идея была: мы покажем фотографии дерматологам и нашей компьютерной программе и проверим, часто ли они правы. Но все эти фотографии — из прошлого. Была сделана биопсия, чтобы удостовериться в их правильной классификации. Для этой — не была. Эта была сделана одним из наших коллег из Стэнфорда. Рассказывают, что один из наших коллег, известный в мире дерматолог, вероятно, один из тройки лучших, посмотрел на эту родинку и сказал: «Это не рак кожи». И потом, немного подумав, он сказал: «Давайте я проверю в этом приложении». Итак, он взял свой iPhone и запустил нашу программу, нашего, так сказать, «карманного дерматолога», и iPhone ответил: «Рак». Он ответил: «Меланома». Специалист смутился. Он решил: «Может быть, я доверяю устройству немного больше, чем себе», и послал образец в лабораторию для прохождения биопсии. И выяснилось, что это агрессивная меланома. Возможно, это был первый реальный случай обнаружения болезни в практике использования глубокого обучения; реальный человек, чья меланома была бы не классифицирована, если бы не глубокое обучение.
CA: I mean, that's incredible.
КА: По-моему, это невероятно.
(Applause)
(Аплодисменты)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
Кажется, что будет резкий спрос на подобные приложения, возможно, вы многих заставите занервничать. Думаете ли вы создать приложение, которое позволяло бы делать самопроверку?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
СТ: Мой почтовый ящик полон писем о приложениях, касающихся рака, с душераздирающими рассказами людей. Я имею в виду, некоторым людям удалили 10, 15, 20 меланом, и они боятся, что, возможно, ещё одну пропустили, как эту. Он полон писем о, ну, не знаю, летающих автомобилях и приглашениями на доклады. Моё мнение — нам нужно больше тестов. Я хочу быть очень осторожным. Очень легко рассказать о ярком результате и поразить аудиторию TED. Гораздо труднее создать что-то этичное. Если бы люди воспользовались программой и выбрали бы не прибегать к разъяснениям врача, потому что мы ответили неверно, я бы очень сожалел о об этом. Сейчас мы проводим клинические испытания, и если они начнутся и подтвердят наши данные, возможно, мы когда-то сможем вооружиться этой технологией, взять её из Стэнфордской клиники и предоставить её всему миру, в места, куда не ступает нога докторов из Стэнфорда.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
КА: Правильно ли я вас понял, мне показалось, что вы говорили, поскольку вы работаете с этой армией студентов Udacity, в каком-то смысле, вы используете иную форму машинного обучения, чем та, которую используют компании; а именно, вы сочетаете машинное обучение c мудростью толпы. Не говорите ли вы, что иногда вы считаете, что этот подход может превзойти возможности компании, даже огромной?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
СТ: Я верю в то, что есть примеры, которые меня поражают, и я всё ещё пытаюсь понять их. Крис имеет в виду наши соревнования. Мы ограничиваем их 48–ю часами, и мы смогли построить беспилотный автомобиль, который может ехать от Маунтин–Вью до Сан–Франциско по улицам городов. Он не вполне на уровне Google — после семи лет работы Google, — но уже довольно близок к нему. Нам потребовались только два инженера и три месяца работы. Причина в том, что у нас целая армия студентов, которые участвуют в соревнованиях. Не только мы одни используем краудсорсинг. Uber и Didi используют его для вождения. Airbnb использует его для отелей. Сегодня есть много примеров, когда люди вместе находят ошибки в программах или, представьте себе, находят фолдинг белков краудсорсингом. Но мы смогли построить эту машину за три месяца, и сейчас я переосмысливаю, как мы организуем корпорации.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
У нас в штате 9 000 человек, которых никогда не нанимали, которых я никогда не уволю. Они приходят на работу, и я даже не знаю об этом. Потом они присылают мне примерно 9 000 ответов. Я не обязан использовать какой-либо из них. В конце концов я плачу только победителям; здесь я очень прижимист, и это, возможно, не лучшая практика. Но они рассматривают это как часть своей учёбы, и это хорошо. Но эти студенты смогли добиться прекрасных результатов в области глубокого обучения. Да, синтез талантливых людей и замечательных машин поразителен.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
КА: Гарри Каспаров сказал в первый день конференции [TED2017], что удивительно, как чемпионы по шахматам оказались двумя шахматистами-любителями, игравшими с тремя средненькими, чуть лучше средних, компьютерными программами, которые смогли превзойти гроссмейстера и выдающегося шахматиста, так, как будто это часть процесса. Кажется, что как будто вы говорите о более сложной версии этой же идеи.
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
СТ: Да, когда вчера утром вы следили за фантастическими экспертами на двух сессиях, касающихся ИИ, захвата власти роботами и реакции человека, там было сказано много замечательного. Но одна из проблем — иногда мы путаем то, что было реально сделано с помощью ИИ, с этой угрозой мирового господства, где ваш ИИ осознаёт себя, не так ли? Меньше всего я хочу, чтобы у моего ИИ было сознание. Я не хочу прийти на кухню, где холодильник влюблён в посудомоечную машину и говорит мне, что, поскольку я плохо себя вёл, всё в морозилке растаяло. Я бы не купил такие устройства и не хочу их иметь. Но мне ясно то, что ИИ всегда был дополнением людей. Он был нашим дополнением, чтобы сделать нас сильнее. Я думаю, что Каспаров был абсолютно прав. Именно сочетание ума человека и машины делает нас сильнее. Идея того, что машины делают нас сильнее, так же стара, как и сами машины. Аграрная революция произошла потому, что она создала паровые машины и орудия фермерского труда, которые не могли сами работать и не заменили нас; она сделала нас сильнее. И я верю в то, эта новая волна ИИ сделает нас намного сильнее как человеческую расу.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
КА: Мы вернёмся к этому немного позже, но для того, чтобы продолжить обсуждать то, что некоторых пугает, например, похоже, что люди пугаются, когда у вас есть компьютер, который может сам переписывать свой код, и поэтому он может создавать множество копий самого себя, пробовать разные версии кода, возможно, даже создавая их случайно, затем проверять их и смотреть, достигнута ли и улучшена ли цель. Допустим, цель — это успешнее пройти тест на умственные способности. Компьютер, который делает это на среднем уровне, может попробовать миллион версий. Возможно, он найдёт ту, которая лучше, и потом, знаете ли, повторит. Есть опасения, что у вас будет в некотором роде эффект убегания, когда всё хорошо в четверг вечером, вы приходите в лабораторию в пятницу утром, и из-за скорости работы компьютеров и многого другого всё пошло кувырком, и вдруг...
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
СТ: Я бы сказал, это возможно, но очень не скоро. Поэтому позвольте мне перефразировать ваши слова. В случае с AlphaGo мы имели следующее: компьютер вёл игру против себя, затем учил новые правила. Машинное обучение — это переписывание правил. Это переписывание кода. Но я думаю, что не было абсолютно никаких опасений, что AlphaGo захватит мир. Он даже не может играть в шахматы.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
КА: Нет, нет, нет, сейчас они — очень узкоспециализированные устройства. Но это можно себе представить. Мы только что видели компьютер, который казался почти способным пройти университетский вступительный тест, который способен — хотя и не может читать и понимать, как это делаем мы, — но точно может усвоить весь текст и, вероятно, обобщить его смысл. Нет ли шанса, что при увеличении его способностей может иметь место другой вид эффекта убегания?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
СТ: Здесь я провожу черту, честно. И вероятность существует — я не хочу это преуменьшать, — но я думаю, что она отдалённая, и она не заботит меня сегодня, так как я думаю, что большая революция — это другое. Всё успешное в области ИИ на сегодняшний день было чрезвычайно специализировано и процветало благодаря единственной идее — огромному объёму данных. Причина такой хорошей работы AlphaGo — это огромное число игр в го, и AlphaGo не может управлять автомобилем или самолётом. Беспилотный автомобиль Google или беспилотный автомобиль Udacity процветают на огромных объёмах данных; и другого они делать не могут. Они не могут даже управлять мотоциклом. Это очень специфическая, касающаяся одной сферы функция. Это верно и для приложения по раку. Не было почти никакого прогресса по так называемому общему ИИ, где вы идёте к ИИ и говорите: «Изобрети-ка для меня СТО или теорию струн». ИИ ещё полностью в младенчестве.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
Причина, по которой я хочу подчеркнуть это, — я вижу опасения и готов их признать. Но если бы я подумал об одной вещи, я бы задал себе вопрос: «А если мы возьмём что-то повторяющееся и сделаем себя в 100 раз эффективнее?» Так получилось 300 лет назад, когда все работали в сельском хозяйстве, выполняли монотонную работу. Сегодня 75 процентов людей работают в офисах и выполняют монотонную работу. Мы стали обезьянами, работающими с таблицами. И это не только низкооплачиваемый труд. Мы стали дерматологами, которые делают одно и то же, юристами, делающими одно и то же. Думаю, что мы сейчас на пороге того, чтобы взять ИИ, оглядеться вокруг, и эти программы позволят нам в 10–50 раз лучше справляться с монотонной работой. Вот о чём я думаю.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
КА: Звучит захватывающе! Процесс достижения этого кажется немного пугающим для некоторых, потому что однажды компьютер сможет делать эти рутинные задачи намного лучше, чем дерматолог или, особенно, водитель, — об этом сейчас так много говорят. Мы резко лишимся миллионов рабочих мест, и, знаете ли, в стране начнётся революция прежде, чем мы дойдём до болеe привлекательных аспектов.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
СТ: Да, это проблема, это большая проблема, и на это было указано вчера утром несколькими выступавшими гостями. Сейчас, прежде чем выйти на сцену, я признался, что я оптимист, и позвольте мне высказаться оптимистически. А именно: представьте себя живущим 300 лет назад. Европа только пережила 140 лет нескончаемых войн, никто не умеет ни читать, ни писать, нет таких рабочих мест, за которые вы держитесь сейчас, таких как инвестиционный банкир, или программист, или телеведущий. Мы все работаем в полях и на фермах. И приходит маленький Себастьян с маленькой паровой машиной в кармане и говорит: «Посмотрите на это. Это сделает вас в 100 раз сильнее, и вы сможете сделать что-нибудь ещё». Тогда, в те времена, не было такой сцены, но Крис и я приходим в хлев к коровам, и он говорит: «Меня это беспокоит, потому что я каждый день дою свою корову, и что, если машина меня заменит?»
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
Я упомянул это, так как мы охотно признаём прошлые достижения и выгоды от них, например, iPhone, самолёты, электричество, медицинское обеспечение. Мы все любим жить до 80-ти лет, что было невозможно 300 лет назад. Но мы как бы не применяем те же правила к будущему. Ведь если я посмотрю на свою работу генерального директора, я скажу, что 90 процентов моей работы — повторяющаяся. Я её не люблю, я трачу около четырёх часов в день на скучные, однотипные письма. И я жажду иметь что-то, что помогло бы мне от этого избавиться. Почему? Потому что я верю, что все мы — безумно творческие люди; в особенности, я думаю, члены сообщества TED. Даже «синие воротнички»; я думаю, если вы пойдёте к вашей горничной в отеле и выпьете с ним или с ней, то час спустя у вас возникнет творческая идея. ИИ даст нам возможность превратить это творчество в действие. Например, что, если бы вы смогли построить Google за один день? Или, сидя за кружкой пива, вы смогли бы изобрести очередной Snapchat, или что-нибудь подобное, и завтра утром это заработало бы?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
И это не научная фантастика. Вот что произойдёт: мы уже оставили след в истории. Мы высвободили этот замечательный творческий потенциал путём ухода из-под ига фермерства и потом, конечно, от работы на фабриках. Мы изобрели так много вещей. По моему мнению, всё идёт к лучшему. Но также будут и большие побочные эффекты. Один из них — в том, что такие вещи, как питание, медицина, образование, жильё и транспорт — все они будут намного более доступными для всех нас, а не только для богатых.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
КА: Хмм. Хотя Мартин Форд утверждал, что на этот раз происходит что-то другое, потому что интеллекту, которым мы пользовались раньше, чтобы найти новые пути бытия, будет соответствовать искусственный интеллект компьютеров, овладевающих теми же вещами, вы сейчас говорите, что это не вполне так, поскольку у людей есть творческий потенциал. Вы думаете, что он фундаментально отличается от творчества, которое по силам компьютерам?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
СТ: Как человек ИИ, я твёрдо уверен в том, что я никогда не видел никакого реального прогресса в творчестве и нестандартном мышлении. То, что то я вижу сейчас — и важно, чтобы люди это поняли, потому что фраза «искусственный интеллект» столь угрожающая, и когда Стивен Спилберг подбрасывает нам фильм, где вдруг компьютер является нашим господином, — но это, фактически, технология. Это технология, которая помогает нам делать повторяющиеся вещи. И прогресс был только в повторяющихся действиях. Был прогресс в поиске юридических документов. В составлении набросков договоров. В рентгеновской съёмке вашей грудной клетки. Эти вещи очень специализированны. Я не вижу в этом большой угрозы для человечества. На деле мы как люди — давайте признаем это: мы стали свехлюдьми. Мы сделали себя сверхлюдьми. Мы можем переплыть Атлантику за 11 часов. Мы можем взять устройство из нашего кармана и докричаться до самой Австралии, и в реальном времени мы услышим в ответ чей-то крик. Физически это невозможно. Мы нарушаем законы физики. В конце концов мы сможем запомнить всё сказанное и виденное нами; вы запомните каждого человека, и это хорошо при моей ранней стадии болезни Альцгеймера. Извините, о чём я говорил? Я забыл.
CA: (Laughs)
КА: (Смеется)
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
СТ: У нас, возможно, будет IQ 1 000 и более баллов. Не будет больше занятий по правописанию для наших детей, потому что больше не будет с этим проблем. Больше не будет проблем с математикой. Думаю, случится то, что мы сможем быть сверхтворческими людьми. И мы таковы. Мы — творческие люди. Это наше секретное оружие.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
КА: Итак, исчезающие рабочие места, в какой-то степени, даже если это будет болезненно, люди способны на большее, чем такой труд. Это мечта. Мечта о том, что люди могут подняться на новый уровень возможностей и открытий. Это мечта.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
СТ: И подумайте об этом: если вы взглянете на историю человечества длиной что-то вроде 60–100 тысяч лет, — почти всё, что вы лелеете в отношении изобретений, технологии, созданных нами вещей, было изобретено за последние 150 лет. Если вы возьмёте книгу или колесо, они чуть постарше. Или топор. Но ваш телефон, кроссовки, эти стулья, современное производство, пенициллин — то, что мы ценим. Это означает для меня, что в следующие 150 лет мы найдём больше вещей. На деле скорость изобретений выросла, а не уменьшилась, по моему мнению. Я верю, что изобретён только один процент интересных вещей, так? Мы не излечили рак. У нас ещё нет летающих автомобилей — пока. Я надеюсь, я изменю это. Это было примером, над которым люди смеялись. (Смеётся) Забавно, не правда ли? Втайне работать над летающими машинами. Мы пока ещё не живём в два раза дольше, не так ли? В нашем мозгу пока нет этого волшебного импланта, который даёт искомую информацию. И вы можете ужасаться этому, но я вам обещаю, получив его, вы сразу его полюбите. Я надеюсь на это. Я знаю, это немного страшно.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
Мы ещё не изобрели так много вещей — думаю, мы их изобретём. Нет экранов от гравитации. Мы не можем перенестись от одного места к другому. Это звучит смешно, но около двухсот лет назад учёные верили в то, что полёт будет невозможен, даже 120 лет назад, и если вы будете двигаться быстрее, чем можете бежать, вы тотчас умрёте. И кто сказал, что мы правы сегодня, что нельзя телепортировать человека отсюда на Марс?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
КА: Большое спасибо, Себастьян, за ваше невероятно вдохновляющее видение и ваш талант. Спасибо, Себастьян Трун. Это было потрясающе. (Аплодисменты)