What I want to tell you about today is how I see robots invading our lives at multiple levels, over multiple timescales. And when I look out in the future, I can't imagine a world, 500 years from now, where we don't have robots everywhere. Assuming -- despite all the dire predictions from many people about our future -- assuming we're still around, I can't imagine the world not being populated with robots. And then the question is, well, if they're going to be here in 500 years, are they going to be everywhere sooner than that? Are they going to be around in 50 years? Yeah, I think that's pretty likely -- there's going to be lots of robots everywhere. And in fact I think that's going to be a lot sooner than that. I think we're sort of on the cusp of robots becoming common, and I think we're sort of around 1978 or 1980 in personal computer years, where the first few robots are starting to appear.
Я хочу поделиться своими мыслями о внедрении роботов в нашу жизнь на разных уровнях и временных масштабах. Когда я думаю о будущем, то не могу представить мир через 500 лет без роботов повсюду. Несмотря на мрачные прогнозы многих людей насчёт нашего будущего, я не вижу мир без кучи роботов. Тогда возникает вопрос: если через 500 лет они будут повсюду, может ли это произойти раньше? Может ли это случиться через 50 лет? Да, думаю, это вполне вероятно — роботы на каждом углу. На самом деле, думаю, нам не придётся ждать так долго. Можно сказать, мы приближаемся к пришествию роботов, сегодняшняя ситуация напоминает 1978 или 1980 года, времена персональных компьютеров, когда начали появляться первые роботы.
Computers sort of came around through games and toys. And you know, the first computer most people had in the house may have been a computer to play Pong, a little microprocessor embedded, and then other games that came after that. And we're starting to see that same sort of thing with robots: LEGO Mindstorms, Furbies -- who here -- did anyone here have a Furby? Yeah, there's 38 million of them sold worldwide. They are pretty common. And they're a little tiny robot, a simple robot with some sensors, a little bit of processing actuation.
Можно сказать, компьютеры распространились благодаря играм. Как вы знаете, первым компьютером в доме многих людей была игрушка Pong, с маленьким микропроцессором внутри, а затем стали доступны и другие игры. И мы видим, то же самое происходит и с роботами: LEGO Mindstorm, Furby... У кого-нибудь здесь есть Furby? Да, их продали уже 38 миллионов во всем мире. Они встречаются довольно часто. Это крошечный робот, простой робот с несколькими сенсорами, слегка проявляющий обратную активность.
On the right there is another robot doll, who you could get a couple of years ago. And just as in the early days, when there was a lot of sort of amateur interaction over computers, you can now get various hacking kits, how-to-hack books. And on the left there is a platform from Evolution Robotics, where you put a PC on, and you program this thing with a GUI to wander around your house and do various stuff. And then there's a higher price point sort of robot toys -- the Sony Aibo. And on the right there, is one that the NEC developed, the PaPeRo, which I don't think they're going to release. But nevertheless, those sorts of things are out there.
Справа — кукла-робот, которую можно было приобрести пару лет назад. И так же, как и в первые дни компьютеров, когда было множество компьютерщиков-любителей, сейчас вы можете раздобыть различные хакерские пособия и ПО. Слева вы видите платформу от Evolution Robotics, которую можно подключить к ПК и запрограммировать, используя графический интерфейс, чтобы он ходил по дому и делал разные вещи. А тут робот-игрушка высшей ценовой категории — Sony Aibo. Справа робот, разработаный NEC, PaPeRo, который, как мне кажется, они не собираются выпускать. Тем не менее, вещи такого рода есть.
And we've seen, over the last two or three years, lawn-mowing robots, Husqvarna on the bottom, Friendly Robotics on top there, an Israeli company. And then in the last 12 months or so we've started to see a bunch of home-cleaning robots appear. The top left one is a very nice home-cleaning robot from a company called Dyson, in the U.K. Except it was so expensive -- 3,500 dollars -- they didn't release it.
В последние 2 или 3 года мы увидели роботов-газонокосильщиков, Husqvarna снизу и Friendly Robotics сверху, Израильской компании. А затем за последние 12 месяцев мы увидели, как начали появляться роботы, которые убирают в доме. Сверху слева — очень хороший робот-уборщик британской компании Dyson. Единственное, он оказался настолько дорогим — 3,500 долларов, — что они его так и не выпустили.
But at the bottom left, you see Electrolux, which is on sale. Another one from Karcher. At the bottom right is one that I built in my lab about 10 years ago, and we finally turned that into a product. And let me just show you that. We're going to give this away I think, Chris said, after the talk. This is a robot that you can go out and buy, and that will clean up your floor. And it starts off sort of just going around in ever-increasing circles. If it hits something -- you people see that? Now it's doing wall-following, it's following around my feet to clean up around me. Let's see, let's -- oh, who stole my Rice Krispies? They stole my Rice Krispies! (Laughter) Don't worry, relax, no, relax, it's a robot, it's smart! (Laughter) See, the three-year-old kids, they don't worry about it. It's grown-ups that get really upset. (Laughter) We'll just put some crap here. (Laughter) Okay. (Laughter) I don't know if you see -- so, I put a bunch of Rice Krispies there, I put some pennies, let's just shoot it at that, see if it cleans up. Yeah, OK. So -- we'll leave that for later. (Applause)
Но снизу слева вы видите Electrolux, который есть в продаже. Еще один от Karcher. Снизу справа — созданный мной в лаборатории около 10 лет назад, и наконец, он стал готовым продуктом. Позвольте мне сейчас его продемонстрировать. Я думаю, после выступления мы дадим желающим с ним поиграть. Этого робота вы можете купить для уборки пола. Он начинает работу с обычной прогулки, наматывая круги. Если он на что-то натыкается... Вы видели это? Теперь он движется вдоль преграды, в данном случае, вокруг моей ноги, чтобы убрать возле меня. Давайте посмотрим... Ой, кто украл мои рисовые хлебцы? Это они! (Смех) Не волнуйтесь, просто успокойтесь, это робот, он умный! (Смех) Видите, трёхлетних детей это не волнует. А вот взрослых это действительно расстраивает. (Смех) Сейчас мы немного здесь намусорим. (Смех) Так. (Смех) Не знаю, видите ли вы, я рассыпал там немного рисовых хлебцев и бросил немного монет, посмотрим, уберёт ли он это. Да, хорошо. Итак, оставим это на потом. (Аплодисменты)
Part of the trick was building a better cleaning mechanism, actually; the intelligence on board was fairly simple. And that's true with a lot of robots. We've all, I think, become, sort of computational chauvinists, and think that computation is everything, but the mechanics still matter. Here's another robot, the PackBot, that we've been building for a bunch of years. It's a military surveillance robot, to go in ahead of troops -- looking at caves, for instance. But we had to make it fairly robust, much more robust than the robots we build in our labs. (Laughter) On board that robot is a PC running Linux. It can withstand a 400G shock. The robot has local intelligence: it can flip itself over, can get itself into communication range, can go upstairs by itself, et cetera. Okay, so it's doing local navigation there. A soldier gives it a command to go upstairs, and it does. That was not a controlled descent. (Laughter) Now it's going to head off. And the big breakthrough for these robots, really, was September 11th. We had the robots down at the World Trade Center late that evening. Couldn't do a lot in the main rubble pile, things were just too -- there was nothing left to do. But we did go into all the surrounding buildings that had been evacuated, and searched for possible survivors in the buildings that were too dangerous to go into. Let's run this video. Reporter: ...battlefield companions are helping to reduce the combat risks. Nick Robertson has that story. Rodney Brooks: Can we have another one of these? Okay, good. So, this is a corporal who had seen a robot two weeks previously. He's sending robots into caves, looking at what's going on. The robot's being totally autonomous. The worst thing that's happened in the cave so far was one of the robots fell down ten meters.
На самом деле, основной упор был сделан на улучшенном механизме очистки; искусственный интеллект довольно простой. И это касается многих роботов. Думаю, мы все стали чем-то вроде вычислительных шовинистов, думаем, что вычисление - наше всё, но механика всё ещё важна. Вот ещё один робот, PackBot, которого мы конструируем уже много лет. Это робот для военной разведки, чтобы идти впереди военных, осматривая пещеры, например. Но мы должны были сделать его достаточно надёжным, намного надёжнее роботов, которых мы строим в наших лабораториях. (Смех) В этого робота встроен персональный компьютер с ОС Linux. Он может выдержать удар силой 400G. У робота есть локальный интеллект: он может кувыркнуться, найти и переместиться в зону связи с ним, может сам подниматься по лестнице и так далее. Итак, он способен на местную разведку. Солдат отдаёт ему приказ подняться по лестнице, и он это делает. Это был неконтролируемый спуск. (Смех) Сейчас он очухается. И большим прорывом для этих роботов стали события 11 сентября. Тем вечером мы отправили роботов во Всемирный Торговый Центр. Многого мы этим не добились, там уже просто ничего нельзя было сделать. Но мы заходили во все эвакуированные дома неподалёку и искали выживших в тех домах, в которые было слишком небезопасно входить. Давайте посмотрим видео. Репортёр: ...боевые товарищи помогают снизить потери. Эту историю расскажет Ник Робертсон. OK Хорошо. Итак, это капрал, который не видел своих роботов уже две недели. Он посылает роботов в пещеры проверить, что там происходит. Роботы полностью автономны. Самое худшее из того, что случилось — это когда робот упал с высоты 10 метров. Солдат: у нас есть камеры, которые позволяют мне видеть всё, что видит робот.
So one year ago, the US military didn't have these robots. Now they're on active duty in Afghanistan every day. And that's one of the reasons they say a robot invasion is happening. There's a sea change happening in how -- where technology's going. Thanks. And over the next couple of months, we're going to be sending robots in production down producing oil wells to get that last few years of oil out of the ground. Very hostile environments, 150˚ C, 10,000 PSI. Autonomous robots going down, doing this sort of work. But robots like this, they're a little hard to program. How, in the future, are we going to program our robots and make them easier to use? And I want to actually use a robot here -- a robot named Chris -- stand up. Yeah. Okay. Come over here. Now notice, he thinks robots have to be a bit stiff. He sort of does that. But I'm going to -- Chris Anderson: I'm just British. RB: Oh. (Laughter) (Applause) I'm going to show this robot a task. It's a very complex task. Now notice, he nodded there, he was giving me some indication he was understanding the flow of communication. And if I'd said something completely bizarre he would have looked askance at me, and regulated the conversation. So now I brought this up in front of him. I'd looked at his eyes, and I saw his eyes looked at this bottle top. And I'm doing this task here, and he's checking up. His eyes are going back and forth up to me, to see what I'm looking at -- so we've got shared attention. And so I do this task, and he looks, and he looks to me to see what's happening next. And now I'll give him the bottle, and we'll see if he can do the task. Can you do that? (Laughter) Okay. He's pretty good. Yeah. Good, good, good. I didn't show you how to do that. Now see if you can put it back together. (Laughter) And he thinks a robot has to be really slow. Good robot, that's good.
Итак, год назад у американских военных не было этих роботов. Сейчас они каждый день находятся на службе в Афганистане. И это одна из причин говорить о начале нашествия роботов. Происходят значительные изменения в способе их применения. Спасибо. За ближайшие пару месяцев мы собираемся пустить роботов в производство для добычи нефти из нефтяных скважин под землёй. Там очень агрессивная среда, 150˚ C, давление 10,000 PSI. Автономный робот будет спускаться вниз и делать эту работу. Но таких роботов несколько трудно программировать. Как в будущем мы собираемся программировать наших роботов и делать их проще в использовании? На самом деле, я хочу испытать робота прямо здесь, робота по имени Крис. Встань. Да. Хорошо. Иди сюда. Заметьте, он думает, что роботы должны быть слегка неуклюжими. Он-таки немного неуклюж. Но я собираюсь... Крис Андерсон: Просто я из Британии. РБ: Ох. (Смех) (Аплодисменты) Я собираюсь дать этому роботу задание. Это очень сложное задание. Заметьте, он кивнул, этим он даёт понять, что понимает, что к нему обращаются. И если бы я сказал что-то совсем бессмысленное, он бы косо на меня глянул и попытался наладить разговор. Итак, я провёл перед ним бутылкой. Я посмотрел ему в глаза и увидел, что его глаза смотрят на вершину бутылки. И я делаю это, а он проверяет. Его глаза следят за мной, чтобы понять, на что я смотрю — так мы обрели совместное внимание. Итак, я делаю это, и он смотрит, смотрит на меня, чтобы увидеть, что будет дальше. А сейчас я дам ему бутылку, и мы посмотрим, сможет ли он повторить. Ты можешь открыть? (Смех) Да. Он хорош. Очень хорош. Я не показывал тебе, как это сделать. Теперь посмотрим, сможешь ли ты её закрыть. (Смех) Он думает, что робот должен быть очень медленным. Хороший робот, молодец.
So we saw a bunch of things there. We saw when we're interacting, we're trying to show someone how to do something, we direct their visual attention. The other thing communicates their internal state to us, whether he's understanding or not, regulates a social interaction. There was shared attention looking at the same sort of thing, and recognizing socially communicated reinforcement at the end. And we've been trying to put that into our lab robots because we think this is how you're going to want to interact with robots in the future. I just want to show you one technical diagram here. The most important thing for building a robot that you can interact with socially is its visual attention system. Because what it pays attention to is what it's seeing and interacting with, and what you're understanding what it's doing. So in the videos I'm about to show you, you're going to see a visual attention system on a robot which has -- it looks for skin tone in HSV space, so it works across all human colorings. It looks for highly saturated colors, from toys. And it looks for things that move around. And it weights those together into an attention window, and it looks for the highest-scoring place -- the stuff where the most interesting stuff is happening -- and that is what its eyes then segue to. And it looks right at that. At the same time, some top-down sort of stuff: might decide that it's lonely and look for skin tone, or might decide that it's bored and look for a toy to play with. And so these weights change.
Таким образом, мы увидели многое. Мы увидели, что когда мы общаемся, когда мы пытаемся показать кому-то, как что-то сделать, мы привлекаем его зрительное внимание. Он же сообщает нам о его отношении к нам, понимает ли он нас; это регулирует социальное общение. Присутствовало совместное внимание через взгляд на одно и то же и распознавание установки контакта в конце. И мы пытались научить всему этому наших лабораторных роботов, потому что мы думаем, именно так вы хотели бы общаться с роботами в будущем. Сейчас я хочу показать вам одну техническую диаграмму. Самое важное при проектировании робота, который сможет общаться, — это его система визуального внимания. Потому что то, на что он обращает внимание - это то, что он видит и с чем общается, а также понимает, что оно делает. На видео я вам покажу систему визуального внимания робота, Он различает тона кожи с помощью цветовой модели HSV, поэтому он работает с любыми оттенками кожи человека. Он ищет насыщенные цвета, характерные для игрушек. И он ищет вокруг движущиеся объекты. Он сравнивает все эти объекты в окне внимания и определяет наиболее значимый, наиболее интересный объект. Вот почему его взгляд направляется именно на него. И он смотрит прямо на него. Вместе с тем, некоторые наиболее незначимые объекты: он может решить, что ему одиноко, и искать оттенки кожи, или может решить, что ему скучно, и будет искать игрушку, чтобы поиграть. И поэтому веса изменяются.
And over here on the right, this is what we call the Steven Spielberg memorial module. Did people see the movie "AI"? (Audience: Yes.)
А вот здесь справа то, что мы называем модулем в память о Стивене Спилберге. Кто-нибудь смотрел фильм «Искусственный разум»? (Зал: Да.)
RB: Yeah, it was really bad, but --
РБ: Да, он очень грустный, но
remember, especially when Haley Joel Osment, the little robot, looked at the blue fairy for 2,000 years without taking his eyes off it? Well, this gets rid of that, because this is a habituation Gaussian that gets negative, and more and more intense as it looks at one thing. And it gets bored, so it will then look away at something else. So, once you've got that -- and here's a robot, here's Kismet, looking around for a toy. You can tell what it's looking at. You can estimate its gaze direction from those eyeballs covering its camera, and you can tell when it's actually seeing the toy. And it's got a little bit of an emotional response here. (Laughter) But it's still going to pay attention if something more significant comes into its field of view -- such as Cynthia Breazeal, the builder of this robot, from the right. It sees her, pays attention to her. Kismet has an underlying, three-dimensional emotional space, a vector space, of where it is emotionally. And at different places in that space, it expresses -- can we have the volume on here? Can you hear that now, out there? (Audience: Yeah.)
помните, когда Хэйли Джоэл Осмент, маленький робот, смотрел на голубую фею целые 2000 лет и не мог оторвать от неё глаза? Данный модуль позволяет этого избежать, потому что это Гауссовское привыкание, которое становится негативным, тем более интенсивно, чем дольше робот смотрит на одно и то же. В итоге ему становится скучно, и он смотрит на что-нибудь другое. Как только мы это поняли — и вот, робот готов — Кисмет, который ищет взглядом игрушку. Вы можете сказать, на что он смотрит. Можно проследить направление от его глазных яблок, под которыми скрывается камера, и сказать, когда он увидит игрушку. Вот он даже проявил немного свои эмоции. (Смех) Но он всё равно будет обращать внимание, если на глаза попадётся что-нибудь более значимое, например, Синтия Бризил, которая его построила, справа. Он видит её, обращает на неё внимание. У Кисмет имеется основное, трёхмерное эмоциональное пространство, векторное пространство эмоциональности. И в разных местах этого пространства он выражает... Можно включить звук? Хорошо слышно? (Зал: Да.)
Kismet: Do you really think so? Do you really think so? Do you really think so?
Кисмет: Вы действительно так считаете? Вы действительно так считаете? Вы действительно так считаете?
RB: So it's expressing its emotion through its face and the prosody in its voice. And when I was dealing with my robot over here, Chris, the robot, was measuring the prosody in my voice, and so we have the robot measure prosody for four basic messages that mothers give their children pre-linguistically. Here we've got naive subjects praising the robot:
РБ: Итак, он выражает свои эмоции через лицо и просодию в голосе. И когда я имел дело с моим роботом Крисом только что, он измерял просодию в моем голосе, мы научили их этому для четырёх основных типов сообщений, которые матери используют в общении с детьми. Сейчас мы просто похвалим робота:
Voice: Nice robot. You're such a cute little robot. (Laughter) RB: And the robot's reacting appropriately.
Голос: Хороший робот. Такой милый маленький робот. (Смех) РБ: И робот реагирует соответствующим образом.
Voice: ...very good, Kismet. (Laughter)
Голос: ...очень хорошо, Кисмет. (Смех)
Voice: Look at my smile.
Голос: Посмотри на мою улыбку.
RB: It smiles. She imitates the smile. This happens a lot. These are naive subjects. Here we asked them to get the robot's attention and indicate when they have the robot's attention.
РБ: Она улыбается. Она имитирует улыбку. Такое часто встречается. Это обычные элементы общения. Теперь мы попросили привлечь внимание робота и указать, когда он обратит на них внимание.
Voice: Hey, Kismet, ah, there it is.
Голос: Эй, Кисмет, да, вот так.
RB: So she realizes she has the robot's attention. Voice: Kismet, do you like the toy? Oh.
РБ: Итак, она поняла, что привлекла внимание робота. Голос: Кисмет, ты любишь игрушки? О.
RB: Now, here they're asked to prohibit the robot, and this first woman really pushes the robot into an emotional corner.
РБ: Только что их попросили отругать робота, и эта женщина эмоционально загоняет робота в угол.
Voice: No. No. You're not to do that. No. (Laughter)
Голос: Нет. Нет. Не делай этого. Нет. (Смех)
Not appropriate. No. No. (Laughter)
Неправильно. Нет, нет. (Смех)
RB: I'm going to leave it at that.
РБ: На этом мы остановимся.
We put that together. Then we put in turn taking. When we talk to someone, we talk. Then we sort of raise our eyebrows, move our eyes, give the other person the idea it's their turn to talk. And then they talk, and then we pass the baton back and forth between each other. So we put this in the robot. We got a bunch of naive subjects in, we didn't tell them anything about the robot, sat them down in front of the robot and said, talk to the robot. Now what they didn't know was, the robot wasn't understanding a word they said, and that the robot wasn't speaking English. It was just saying random English phonemes. And I want you to watch carefully, at the beginning of this, where this person, Ritchie, who happened to talk to the robot for 25 minutes -- (Laughter) -- says, "I want to show you something. I want to show you my watch." And he brings the watch center, into the robot's field of vision, points to it, gives it a motion cue, and the robot looks at the watch quite successfully. We don't know whether he understood or not that the robot -- Notice the turn-taking. Ritchie: OK, I want to show you something. OK, this is a watch that my girlfriend gave me. Robot: Oh, cool. Ritchie: Yeah, look, it's got a little blue light in it too. I almost lost it this week. (Laughter) RB: So it's making eye contact with him, following his eyes. Ritchie: Can you do the same thing? Robot: Yeah, sure. RB: And they successfully have that sort of communication.
Мы соединили всё это вместе. Затем мы добавили очерёдность общения. В общении с кем-нибудь сначала говорим мы. Потом мы или поднимаем брови, или двигаем глазами, давая понять этим другому человеку, что его очередь говорить. Затем говорит он, и мы передаём эстафету туда и обратно между собой. Итак, мы научили этому робота. Мы научили его повседневным темам, мы ничего не рассказывали людям о роботе, посадили напротив него и сказали, чтоб говорили с роботом. Они не знали, что робот не понимал ни слова из сказанного ими, и что робот не говорил по-английски. Он просто произносил случайные английские фонемы. Я хочу, чтобы вы внимательно посмотрели, как человек по имени Риччи, который проговорил с роботом 25 минут, (Смех) говорит: «Я хочу кое-что тебе показать. Я хочу показать свои часы». И он подносит часы в поле зрение робота, указывает на них, двигает ими, и, конечно, робот смотрит на них. Мы не знаем, понял ли он, что робот... Обратите внимание на очерёдность общения. Риччи: Так, я хочу тебе кое-что показать. Это часы, которые дала мне моя девушка. Робот: Ух-ты. Риччи: Да, смотри, у них ещё есть голубая подсветка. Я чуть не потерял их на этой неделе. (Смех) РБ: Итак, он налаживает визуальный контакт, следит за его глазами. Риччи: Можешь сделать то же самое? Робот: Да, конечно. РБ: Так они и общались.
And here's another aspect of the sorts of things that Chris and I were doing. This is another robot, Cog. They first make eye contact, and then, when Christie looks over at this toy, the robot estimates her gaze direction and looks at the same thing that she's looking at. (Laughter) So we're going to see more and more of this sort of robot over the next few years in labs. But then the big questions, two big questions that people ask me are: if we make these robots more and more human-like, will we accept them, will we -- will they need rights eventually? And the other question people ask me is, will they want to take over? (Laughter) And on the first -- you know, this has been a very Hollywood theme with lots of movies. You probably recognize these characters here -- where in each of these cases, the robots want more respect. Well, do you ever need to give robots respect? They're just machines, after all. But I think, you know, we have to accept that we are just machines. After all, that's certainly what modern molecular biology says about us. You don't see a description of how, you know, Molecule A, you know, comes up and docks with this other molecule. And it's moving forward, you know, propelled by various charges, and then the soul steps in and tweaks those molecules so that they connect. It's all mechanistic. We are mechanism. If we are machines, then in principle at least, we should be able to build machines out of other stuff, which are just as alive as we are. But I think for us to admit that, we have to give up on our special-ness, in a certain way. And we've had the retreat from special-ness under the barrage of science and technology many times over the last few hundred years, at least. 500 years ago we had to give up the idea that we are the center of the universe when the earth started to go around the sun; 150 years ago, with Darwin, we had to give up the idea we were different from animals. And to imagine -- you know, it's always hard for us. Recently we've been battered with the idea that maybe we didn't even have our own creation event, here on earth, which people didn't like much. And then the human genome said, maybe we only have 35,000 genes. And that was really -- people didn't like that, we've got more genes than that. We don't like to give up our special-ness, so, you know, having the idea that robots could really have emotions, or that robots could be living creatures -- I think is going to be hard for us to accept. But we're going to come to accept it over the next 50 years or so.
А вот ещё другой пример из тех вещей, которыми мы с Крисом занимались. Это другой робот, Ког. Сначала они налаживают визуальный контакт, затем Кристи смотрит на игрушку, робот прослеживает направление её взгляда и смотрит на ту же вещь, что и она. (Смех) Итак, мы будем видеть все больше таких роботов на протяжении следующих нескольких лет в лабораториях. Большими вопросами, двумя большими вопросами, которые мне часто задают, являются: если мы будем делать этих роботов всё более похожими на людей, примем ли мы их, будут ли они, наконец, нуждаться в правах? А другой вопрос: захотят ли они нас поработить? (Смех) По первому вопросу: знаете, эту тему любит Голливуд, снято много фильмов. Наверняка, вы узнаете этих героев, в каждом из этих случаев роботы хотят больше уважения. Должны ли мы будем когда-нибудь уважать роботов? В конце концов, они просто машины. Но знаете, я думаю, мы должны признать, что и мы просто машины. В конце концов, это то, что говорит о нас современная молекулярная биология. Вы не видите описания того, как молекула А подходит и стыкуется с другой молекулой. И они приводятся в движение различными зарядами, а затем входит душа и заставляет эти молекулы соединиться. Это всё механика. Мы механизмы. Если мы машины, тогда, в принципе, мы должны уметь строить машины из других материалов, которые так же живы, как мы. Но чтобы признать это, мы должны забыть о нашей исключительности, в определённом смысле. И мы уже много раз уступали часть нашей исключительности под шквалом науки и техники, по крайней мере, последние несколько сотен лет. 500 лет назад мы были вынуждены отказаться от идеи, что мы пуп Вселенной, когда Земля стала вращаться вокруг Солнца; 150 лет назад благодаря Дарвину нам пришлось отказаться от идеи, что мы отличны от животных. И, знаете ли, для нас это всегда сложно. Недавно мы повержены идеей, что у нас даже не было момента сотворения, здесь на Земле, эта идея очень не нравилась людям. А затем человеческий геном сообщил, что, возможно, у нас есть всего лишь 35000 генов. И правда, людям это не понравилось, у нас же больше генов. Мы не хотели отказываться от нашей исключительности, и мысль о том, что роботы могли бы иметь эмоции, или те же роботы могли быть живыми существами... Я думаю, для нас будет непросто с этим смириться. Но мы движемся к тому, чтобы принять это лет через 50.
And the second question is, will the machines want to take over? And here the standard scenario is that we create these things, they grow, we nurture them, they learn a lot from us, and then they start to decide that we're pretty boring, slow. They want to take over from us. And for those of you that have teenagers, you know what that's like. (Laughter) But Hollywood extends it to the robots. And the question is, you know, will someone accidentally build a robot that takes over from us? And that's sort of like this lone guy in the backyard, you know -- "I accidentally built a 747." I don't think that's going to happen. And I don't think -- (Laughter) -- I don't think we're going to deliberately build robots that we're uncomfortable with. We'll -- you know, they're not going to have a super bad robot. Before that has to come to be a mildly bad robot, and before that a not so bad robot. (Laughter) And we're just not going to let it go that way. (Laughter) So, I think I'm going to leave it at that: the robots are coming, we don't have too much to worry about, it's going to be a lot of fun, and I hope you all enjoy the journey over the next 50 years. (Applause)
И второй вопрос: захотят ли машины поработить нас? Стандартный сценарий: мы создаём эти вещи, они растут, мы их развиваем, они многому от нас учатся, а затем они решают, что мы довольно скучны и медленны. И они хотят взять верх над нами. Для тех, у кого есть подростки, вы понимаете, о чём я. (Смех) Но Голливуд сводит это к роботам. И вопрос в том, построит ли кто-нибудь случайно робота, который захватит мир? Как если бы какой-то одинокий парень у себя на заднем дворе случайно построил Боинг 747. Я не думаю, что это случится. И я не думаю... (Смех) ...я не думаю, что мы сознательно будем строить роботов, с которыми нам некомфортно. Никто не будет строить супер-плохих роботов. Перед этим они должны стать просто-плохими роботами, а перед этими не такими уж плохими. (Смех) И мы не собираемся их отпускать так просто. (Смех) Итак, думаю, можно закончить следующим: роботы наступают, но нам не о чем волноваться, это будет очень весело, и, надеюсь, вам понравится ваше путешествие в следующие 50 лет. (Аплодисменты)