Онова, за което искам да ви разкажа днес, е как виждам роботите да нахлуват в живота ни на множество нива, в множество времеви пояси. А когато погледна в бъдещето, не мога да си представя един свят след 500 години, при който да няма роботи навсякъде, като приемем... въпреки всички зловещи предсказания на много хора за нашето бъдеще - като приемем, че още съществуваме, не мога да си представя светът да не е населен с роботи. А тогава въпросът е - ами, ако ще са тук след 500 години, дали ще са навсякъде още по-скоро? Ще ги има ли след 50 години? Да, мисля, че това е доста вероятно - ще има множество роботи навсякъде. Всъщност мисля, че ще е много по-скоро. Мисля, че сме на ръба на това роботите да станат обичайни и мисля, че сме някъде около 1978 или 1980 в персонални компютърни години, когато започват да се появяват първите роботи.
What I want to tell you about today is how I see robots invading our lives at multiple levels, over multiple timescales. And when I look out in the future, I can't imagine a world, 500 years from now, where we don't have robots everywhere. Assuming -- despite all the dire predictions from many people about our future -- assuming we're still around, I can't imagine the world not being populated with robots. And then the question is, well, if they're going to be here in 500 years, are they going to be everywhere sooner than that? Are they going to be around in 50 years? Yeah, I think that's pretty likely -- there's going to be lots of robots everywhere. And in fact I think that's going to be a lot sooner than that. I think we're sort of on the cusp of robots becoming common, and I think we're sort of around 1978 or 1980 in personal computer years, where the first few robots are starting to appear.
Компютрите някак навлязоха чрез игри и играчки. И знаете ли, първия компютър, който повечето хора са имали вкъщи, може да е бил компютър за игра на "Понг", с вграден малък микропроцесор, а след това дойдоха и други игри. Започваме да виждаме същото нещо при роботите: "Лего Майндсторм", "Фърби"... някой тук имал ли е "Фърби"? Да, по света са продадени 38 милиона от тях. Доста често срещани са. Това е един мъничък робот, прост робот с няколко сензори. Малко преработващо задвижване.
Computers sort of came around through games and toys. And you know, the first computer most people had in the house may have been a computer to play Pong, a little microprocessor embedded, and then other games that came after that. And we're starting to see that same sort of thing with robots: LEGO Mindstorms, Furbies -- who here -- did anyone here have a Furby? Yeah, there's 38 million of them sold worldwide. They are pretty common. And they're a little tiny robot, a simple robot with some sensors, a little bit of processing actuation.
Там вдясно има друга кукла робот, която можеше да вземеш преди две години. И точно както в ранните дни, когато имаше много някак аматьорско взаимодействие край компютрите, сега може да се получат различни хакерски набори, книги за хакерство. А там вляво има една платформа от "Еволюционна роботика", върху която се поставя компютър и се програмира това нещо с графичен потребителски интерфейс да броди из къщата ти и да върши различни неща. А после - по-висок ценови клас, един вид роботи играчки... "Сони Айбо". А там вдясно е един, създаден от NEC, ПаПеРо, който не смятам, че ще пуснат. Но въпреки това тези неща ги има.
On the right there is another robot doll, who you could get a couple of years ago. And just as in the early days, when there was a lot of sort of amateur interaction over computers, you can now get various hacking kits, how-to-hack books. And on the left there is a platform from Evolution Robotics, where you put a PC on, and you program this thing with a GUI to wander around your house and do various stuff. And then there's a higher price point sort of robot toys -- the Sony Aibo. And on the right there, is one that the NEC developed, the PaPeRo, which I don't think they're going to release. But nevertheless, those sorts of things are out there.
През последните две-три години сме виждали роботи-косачки, "Husqvarna" отдолу, "Френдли Роботикс" там горе, израелска компания. А после, през последните 12 месеца или там някъде започнахме да виждаме появата на куп роботи за почистване на дома. Горе вляво е един много хубав робот за домашно почистване от една фирма, наречена "Дайсън", в Обединеното кралство. Само че бил толкова скъп... 3500 долара... че не го пуснали.
And we've seen, over the last two or three years, lawn-mowing robots, Husqvarna on the bottom, Friendly Robotics on top there, an Israeli company. And then in the last 12 months or so we've started to see a bunch of home-cleaning robots appear. The top left one is a very nice home-cleaning robot from a company called Dyson, in the U.K. Except it was so expensive -- 3,500 dollars -- they didn't release it.
Но долу вляво виждате "Електролукс", който е в продажба. Друг от "Кархер". Долу вдясно е един, който създадох в моята лаборатория преди десетина години, и най-сетне го превърнахме в продукт. Нека просто да ви покажа това. Според мен Крис каза, че ще го подарим след разговора. Това е робот, който може да излезеш и да купиш, и той ще ти чисти пода. И започва просто като се върти във все по-разширяващи се кръгове. Ако се удари в нещо... хора, виждате ли това? Сега започва да следва стените, заобикаля около краката ми, за да почисти около мен. Да видим, да... о, кой ми открадна "Хрупкавите оризовки?" Откраднаха ми "Хрупкавите оризовки." (Смях) Не се безпокой, отпусни се, не, спокойно, робот е, умен е. (Смях) Виждате ли, тригодишните деца не се безпокоят от това. Възрастните са тези, които се разстройват много. (Смях) Просто ще сложим малко боклук тук. (Смях) Така. (Смях) Не знам дали виждате... слагам тук куп хрупкави оризовки, слагам няколко монети, да спрем дотук, да видим дали ще почисти. Да, така. Значи... ще оставим това за по-късно. (Аплодисменти)
But at the bottom left, you see Electrolux, which is on sale. Another one from Karcher. At the bottom right is one that I built in my lab about 10 years ago, and we finally turned that into a product. And let me just show you that. We're going to give this away I think, Chris said, after the talk. This is a robot that you can go out and buy, and that will clean up your floor. And it starts off sort of just going around in ever-increasing circles. If it hits something -- you people see that? Now it's doing wall-following, it's following around my feet to clean up around me. Let's see, let's -- oh, who stole my Rice Krispies? They stole my Rice Krispies! (Laughter) Don't worry, relax, no, relax, it's a robot, it's smart! (Laughter) See, the three-year-old kids, they don't worry about it. It's grown-ups that get really upset. (Laughter) We'll just put some crap here. (Laughter) Okay. (Laughter) I don't know if you see -- so, I put a bunch of Rice Krispies there, I put some pennies, let's just shoot it at that, see if it cleans up. Yeah, OK. So -- we'll leave that for later. (Applause)
Част от номера всъщност беше изграждането на по-добър почистващ механизъм; интелекта на борда беше доста прост. И това е вярно при много роботи. Смятам, че всички сме станали един вид изчислителни шовинисти, и мислим, че изчислението е всичко, но механиката все още има значение. Ето друг робот, ПакБот, който изграждаме от няколко години. Това е робот за военно наблюдение, който да влиза пред войниците, да разглежда пещери, например. Но трябваше да го направим доста як, много по-як от роботите, които изграждаме в нашите лаборатории. (Смях) На борда на този робот има персонален компютър, на който върви с "Линукс". Може да понесе шок от 400G. Роботът има локален интелект; може да се преобърне, може да навлезе сам в комуникационния обсег, може да се качва на горния етаж сам, и така нататък. Така, значи тук прави местна навигация. Един войник му дава команда да се качи горе, и той го прави. Това не беше контролирано слизане. (Смях) Сега ще си тръгне. А големият пробив за тези роботи всъщност беше 11-ти септември. Изпратихме роботите долу в Световния търговски център късно онази вечер. Не можехме да сторим много в основния куп отломки, нещата просто бяха твърде... нямаше какво повече да се направи. Но влязохме във всички околни сгради, които се евакуираха и търсехме възможни оцелели в сградите, в които беше твърде опасно да се влиза. Да пуснем това видео. Репортер: ...другари на бойното поле помагат за намаляване на бойните рискове. Ник Робъртсън с тази история. Родни Брукс: Може ли още един от тези? Така, добре. Това ефрейтор, който е видял робот преди две седмици. Той изпраща роботи в пещери, за да гледа какво става. Роботът е напълно автономен. Най-лошото, което се е случило в пещерата досега е, че един от роботите паднал от десет метра височина.
Part of the trick was building a better cleaning mechanism, actually; the intelligence on board was fairly simple. And that's true with a lot of robots. We've all, I think, become, sort of computational chauvinists, and think that computation is everything, but the mechanics still matter. Here's another robot, the PackBot, that we've been building for a bunch of years. It's a military surveillance robot, to go in ahead of troops -- looking at caves, for instance. But we had to make it fairly robust, much more robust than the robots we build in our labs. (Laughter) On board that robot is a PC running Linux. It can withstand a 400G shock. The robot has local intelligence: it can flip itself over, can get itself into communication range, can go upstairs by itself, et cetera. Okay, so it's doing local navigation there. A soldier gives it a command to go upstairs, and it does. That was not a controlled descent. (Laughter) Now it's going to head off. And the big breakthrough for these robots, really, was September 11th. We had the robots down at the World Trade Center late that evening. Couldn't do a lot in the main rubble pile, things were just too -- there was nothing left to do. But we did go into all the surrounding buildings that had been evacuated, and searched for possible survivors in the buildings that were too dangerous to go into. Let's run this video. Reporter: ...battlefield companions are helping to reduce the combat risks. Nick Robertson has that story. Rodney Brooks: Can we have another one of these? Okay, good. So, this is a corporal who had seen a robot two weeks previously. He's sending robots into caves, looking at what's going on. The robot's being totally autonomous. The worst thing that's happened in the cave so far was one of the robots fell down ten meters.
Преди една година военните в САЩ нямаха тези роботи. Сега те са на активна служба в Афганистан всеки ден. И това е една от причините да казват, че се случва нашествие на роботи. Случва се трансформация в това как... накъде върви технологията. Благодаря. И в течение на следащите два месеца ще изпращаме роботи в производството, в действащи петролни кладенци, за да извадят тези малко последни години петрол от земята. Много враждебна среда, 150 градуса по Целзий, 10 000 паунда на квадратен инч (69 MPa). Автономни роботи слизат и вършат този тип работа. Но такива роботи са малко трудни за програмиране. Как в бъдеще ще програмираме роботите си и ще ги правим по-лесни за употреба? Всъщност, искам да използвам робот тук... робот на име Крис... стани. Да. Така. Ела тук. Забележете, той мисли, че роботите трябва да са малко сковани. Някак го прави. Но аз ще... Крис Андерсън: Просто съм британец. РБ: О. (Смях) (Аплодисменти) Ще покажа на този робот една задача. Много сложна задача. Забележете, той кимна - показваше ми, че разбира потока на комуникация. И ако бях казал нещо напълно странно, той би ме погледнал въпросително и би регулирал разговора. И така, сега донесох това пред него. Погледнах го в очите и видях, че очите му гледат горната част на тази бутилка. Аз върша тази задача тук, а той проверява. Очите му се движат напред-назад, нагоре към мен, за да види какво гледам, така че имаме споделено внимание. И така, аз върша тази задача, а той гледа, и гледа към мен, за да види какво ще се случи. Сега му давам бутилката и ще видим може ли да изпълни задачата. Можеш ли да направиш това? (Смях) Така. Доста е добър. Да. Добре, добре, добре. Не съм ти показвал как се прави това. А сега, да видим дали можеш да я поставиш обратно. (Смях) И мисли, че роботът трябва да е много бавен. Добър робот, браво.
So one year ago, the US military didn't have these robots. Now they're on active duty in Afghanistan every day. And that's one of the reasons they say a robot invasion is happening. There's a sea change happening in how -- where technology's going. Thanks. And over the next couple of months, we're going to be sending robots in production down producing oil wells to get that last few years of oil out of the ground. Very hostile environments, 150˚ C, 10,000 PSI. Autonomous robots going down, doing this sort of work. But robots like this, they're a little hard to program. How, in the future, are we going to program our robots and make them easier to use? And I want to actually use a robot here -- a robot named Chris -- stand up. Yeah. Okay. Come over here. Now notice, he thinks robots have to be a bit stiff. He sort of does that. But I'm going to -- Chris Anderson: I'm just British. RB: Oh. (Laughter) (Applause) I'm going to show this robot a task. It's a very complex task. Now notice, he nodded there, he was giving me some indication he was understanding the flow of communication. And if I'd said something completely bizarre he would have looked askance at me, and regulated the conversation. So now I brought this up in front of him. I'd looked at his eyes, and I saw his eyes looked at this bottle top. And I'm doing this task here, and he's checking up. His eyes are going back and forth up to me, to see what I'm looking at -- so we've got shared attention. And so I do this task, and he looks, and he looks to me to see what's happening next. And now I'll give him the bottle, and we'll see if he can do the task. Can you do that? (Laughter) Okay. He's pretty good. Yeah. Good, good, good. I didn't show you how to do that. Now see if you can put it back together. (Laughter) And he thinks a robot has to be really slow. Good robot, that's good.
И така, видяхме куп неща тук. Видяхме, че когато взаимодействаме, се опитваме да покажем на някого как да прави нещо, насочваме визуалното му внимание. Другото нещо комуникира вътрешното му състояние към нас, дали разбира, или не, регулира социално взаимодействие. Имаше споделено внимание, докато гледахме едно и също, и признаване на социално комуникирано потвърждение накрая. Опитваме се да вкараме това в лабораторните си роботи, защото смятаме, че така ще е желателно да се взаимодейства с роботите в бъдеще. Само искам да ви покажа една техническа диаграма тук. Най-важното за създаване на робот, с когото да можеш да взаимодействаш социално, е системата му за визуално внимание. Защото онова, на което обръща внимание, е онова, което вижда и с което взаимодейства и разбирате какво прави. Във видеоклиповете, които ще ви покажа, ще видите система за визуално внимание в робот, който има... търси цвят на кожата в HSV пространството, така че работи през всички човешки разцветки. Търси силно наситени цветове, от играчки. Търси неща, които се движат наоколо. Претегля ги заедно в прозорец за внимание и търси мястото с най-висок резултат... къде се случва най-интересното нещо. И тогава към това се насочват очите му. Гледа право към това. В същото време, подреждане на приоритети: може да реши, че е самотен, и да търси цвят на кожата, или може да реши, че му е скучно, и да потърси играчка, с която да играе. Така че тези тежести се променят.
So we saw a bunch of things there. We saw when we're interacting, we're trying to show someone how to do something, we direct their visual attention. The other thing communicates their internal state to us, whether he's understanding or not, regulates a social interaction. There was shared attention looking at the same sort of thing, and recognizing socially communicated reinforcement at the end. And we've been trying to put that into our lab robots because we think this is how you're going to want to interact with robots in the future. I just want to show you one technical diagram here. The most important thing for building a robot that you can interact with socially is its visual attention system. Because what it pays attention to is what it's seeing and interacting with, and what you're understanding what it's doing. So in the videos I'm about to show you, you're going to see a visual attention system on a robot which has -- it looks for skin tone in HSV space, so it works across all human colorings. It looks for highly saturated colors, from toys. And it looks for things that move around. And it weights those together into an attention window, and it looks for the highest-scoring place -- the stuff where the most interesting stuff is happening -- and that is what its eyes then segue to. And it looks right at that. At the same time, some top-down sort of stuff: might decide that it's lonely and look for skin tone, or might decide that it's bored and look for a toy to play with. And so these weights change.
А ето тук, вдясно, това наричаме мемориален модул "Стивън Спилбърг". Хората гледали ли са филма "Изкуствен интелект"? Публика: Да.
And over here on the right, this is what we call the Steven Spielberg memorial module. Did people see the movie "AI"? (Audience: Yes.)
РБ: Да, наистина беше лош, но...
RB: Yeah, it was really bad, but --
помните ли, особено когато Хейли Джоел Осмънт, малкият робот, гледа синята фея 2000 години, без да свали очи от нея? Е, този се отървава от това, защото това е гаусиански за привикване, който става негативен, и все по-интензивен, като гледа едно нещо. И му доскучава, така че после ще отклони поглед към нещо друго. Щом веднъж имаш това... ето един робот, ето го Късмет, който се оглежда наоколо за играчка. Ясно е какво гледа. Може да се установи посоката на погледа му от тези очни ябълки, покриващи камерата му, и може да се види кога всъщност вижда играчката. Тук има малко емоционален отклик. (Смях) Но все пак ще обърне внимание, ако в зрителното му поле влезе нещо по-значително... като Синтия Брийзъл, създателят на този робот... отдясно. Вижда я, обръща й внимание. Късмет има скрито триизмерно емоционално пространство, векторно пространство, къде се намира емоционално. И на различни места в това пространство изразява... може ли да увеличим звука тук? Чувате ли сега там? Публика: Да.
remember, especially when Haley Joel Osment, the little robot, looked at the blue fairy for 2,000 years without taking his eyes off it? Well, this gets rid of that, because this is a habituation Gaussian that gets negative, and more and more intense as it looks at one thing. And it gets bored, so it will then look away at something else. So, once you've got that -- and here's a robot, here's Kismet, looking around for a toy. You can tell what it's looking at. You can estimate its gaze direction from those eyeballs covering its camera, and you can tell when it's actually seeing the toy. And it's got a little bit of an emotional response here. (Laughter) But it's still going to pay attention if something more significant comes into its field of view -- such as Cynthia Breazeal, the builder of this robot, from the right. It sees her, pays attention to her. Kismet has an underlying, three-dimensional emotional space, a vector space, of where it is emotionally. And at different places in that space, it expresses -- can we have the volume on here? Can you hear that now, out there? (Audience: Yeah.)
Късмет: Наистина ли мислиш така? Наистина ли мислиш така? Наистина ли мислиш така?
Kismet: Do you really think so? Do you really think so? Do you really think so?
РБ: Той изразява емоцията си чрез лицето и прозодията в гласа си. А когато се занимавах с моя робот ей там, Крис, роботът, измерваше прозодията в гласа им, и така роботът измерва прозодия за четири основни послания, които майките дават на децата си пред-лингвистично. Тук наивни субекти възхваляват робота.
RB: So it's expressing its emotion through its face and the prosody in its voice. And when I was dealing with my robot over here, Chris, the robot, was measuring the prosody in my voice, and so we have the robot measure prosody for four basic messages that mothers give their children pre-linguistically. Here we've got naive subjects praising the robot:
Глас: Добър робот. Ти си такъв хубав малък робот (Смях) И роботът реагира подходящо.
Voice: Nice robot. You're such a cute little robot. (Laughter) RB: And the robot's reacting appropriately.
Глас: ...много добре, Късмет. (Смях)
Voice: ...very good, Kismet. (Laughter)
Глас: Погледни усмивката ми.
Voice: Look at my smile.
РБ: Усмихва се. Тя имитира усмивката. Това се случва често. Това са наивни субекти. Тук ги помолихме да привлекат вниманието на робота и да покажат, когато вниманието на робота е насочено към тях.
RB: It smiles. She imitates the smile. This happens a lot. These are naive subjects. Here we asked them to get the robot's attention and indicate when they have the robot's attention.
Глас: Хей, Късмет, а, ето го.
Voice: Hey, Kismet, ah, there it is.
РБ: Тя осъзнава, че е привлякла вниманието на робота. Глас: Късмет, харесва ли ти играчката? О.
RB: So she realizes she has the robot's attention. Voice: Kismet, do you like the toy? Oh.
РБ: Тук са помолени да забранят на робота, и пърата жена наистина притиска робота в ъгъла емоционално.
RB: Now, here they're asked to prohibit the robot, and this first woman really pushes the robot into an emotional corner.
Глас: Не. Не. Не бива да правиш това. Не. (Смях)
Voice: No. No. You're not to do that. No. (Laughter)
Глас: Не е подходящо. Не. Не. (Смях)
Not appropriate. No. No. (Laughter)
РБ: Ще го оставя дотук.
RB: I'm going to leave it at that.
Сглобяваме това. После поставяме редуване. Когато разговаряме с някого, говорим. После някак вдигаме вежди, движим очи, даваме на другото лице идеята, че е негов ред да говори. Тогава той говори, а после си предаваме диригентската палка напред-назад помежду си. Значи, слагаме това в робота. Имаме куп наивни субекти вътре, не сме им казали нищо за робота, сложихме ги да седнат пред робота и казахме, говорете с робота. Онова, което знаеха, беше, че роботът не разбира и дума от това, което казват, и че роботът не говори английски. Просто казваше произволни английски фонеми. Искам да гледате внимателно в началото, където този човек, Ричи, който говори с робота 25 минути... (Смях) ...казва: "Искам да ти покажа нещо. Искам да ти покажа ръчния си часовник." И поставя центъра на часовника в зрителното поле на робота, сочи към него, прави емоционално загатване и роботът поглежда часовника доста успешно. Не знаем дали е разбрал, или не, че роботът... Забележете как се редуват. Ричи: Така, искам да ти покажа нещо. Така, това е часовник, който ми подари моята приятелка. Робот: О, страхотно. Ричи: Да, виж, вътре има и малка синя лампичка. Едва не го изгубих тая седмица. (Смях) РБ: Той улавя погледа му, следва очите му. Ричи: Можеш ли да правиш същото? Робот: Да, рабира се. РБ: И успешно комуникират по този начин.
We put that together. Then we put in turn taking. When we talk to someone, we talk. Then we sort of raise our eyebrows, move our eyes, give the other person the idea it's their turn to talk. And then they talk, and then we pass the baton back and forth between each other. So we put this in the robot. We got a bunch of naive subjects in, we didn't tell them anything about the robot, sat them down in front of the robot and said, talk to the robot. Now what they didn't know was, the robot wasn't understanding a word they said, and that the robot wasn't speaking English. It was just saying random English phonemes. And I want you to watch carefully, at the beginning of this, where this person, Ritchie, who happened to talk to the robot for 25 minutes -- (Laughter) -- says, "I want to show you something. I want to show you my watch." And he brings the watch center, into the robot's field of vision, points to it, gives it a motion cue, and the robot looks at the watch quite successfully. We don't know whether he understood or not that the robot -- Notice the turn-taking. Ritchie: OK, I want to show you something. OK, this is a watch that my girlfriend gave me. Robot: Oh, cool. Ritchie: Yeah, look, it's got a little blue light in it too. I almost lost it this week. (Laughter) RB: So it's making eye contact with him, following his eyes. Ritchie: Can you do the same thing? Robot: Yeah, sure. RB: And they successfully have that sort of communication.
Ето още един аспект от типа неща, които правим с Крис. Това е друг робот, Ког. Първо срещат погледи, а после, щом Кристи поглежда тази играчка, роботът установява посоката на взора й и поглежда същото, което гледа и тя. (Смях) Ще виждаме този вид робот все повече и повече през следващите години в лабораториите. А после - големите въпроси, два големи въпроса, които хората ми задават, са: ако правим тези роботи все по-човекоподобни, ще ги приемем ли, дали... дали ще са им нужни права в крайна сметка? А другият въпрос, който хората ми задават е: те ще искат ли да надделеят? (Смях) По първия - знаете ли, това е много холивудска тема с много филми. Вероятно разпознавате тези герои тук... във всеки от тези случаи роботите искат повече уважение. Е, нужно ли е някога да се дава уважение на роботите? Те са просто машини, в крайна сметка. Но според мен трябва да приемем, че ние сме просто машини. В крайна сметка това твърди за нас модерната молекулярна биология. Не се вижда описание за това как молекула А, разбирате ли, идва и се събира с тази друга молекула. И тя се движи напред, разбирате ли, тласкана от различни заряди, и тогава душата влиза и побутва онези молекули, така че да се свържат. Всичко е механично, ние сме механизъм. Ако ние сме машини, тогава поне по принцип трябва да сме в състояние да създаваме машини от други неща, също така живи, колкото сме и ние. Но мисля, че за да признаем това, трябва да се откажем от своята специалност, в известен смисъл. Оттегляли сме се от специалност под заграждението на науката и технологията много пъти, поне през последните няколкостотин години. Преди 500 години трябвало да се откажем от идеята, че сме центърът на Вселената, когато Земята започнала да се върти около Слънцето; преди 150 години, с Дарвин, трябвало да се откажем от идеята, че сме различни от животните. И да си представим... знаете ли, винаги ни е трудно. Наскоро ни обстреляха с идеята, че може би дори нямаме собствено събитие за създаване тук, на Земята, което не се харесва много на хората. А после - според човешкия геном може би имаме само 35 000 гени. А това беше наистина... на хората не им хареса, трябваше да имаме повече гени от тези. Не ни харесва да се отказваме от специалността си, затова, нали разбирате, идеята, че роботите всъщност биха могли да имат емоции, или че роботите могат да са живи създания... мисля, че ще ни е трудно да го приемем. Но ще стигнем до това да го приемем през следващите 50 години или там някъде.
And here's another aspect of the sorts of things that Chris and I were doing. This is another robot, Cog. They first make eye contact, and then, when Christie looks over at this toy, the robot estimates her gaze direction and looks at the same thing that she's looking at. (Laughter) So we're going to see more and more of this sort of robot over the next few years in labs. But then the big questions, two big questions that people ask me are: if we make these robots more and more human-like, will we accept them, will we -- will they need rights eventually? And the other question people ask me is, will they want to take over? (Laughter) And on the first -- you know, this has been a very Hollywood theme with lots of movies. You probably recognize these characters here -- where in each of these cases, the robots want more respect. Well, do you ever need to give robots respect? They're just machines, after all. But I think, you know, we have to accept that we are just machines. After all, that's certainly what modern molecular biology says about us. You don't see a description of how, you know, Molecule A, you know, comes up and docks with this other molecule. And it's moving forward, you know, propelled by various charges, and then the soul steps in and tweaks those molecules so that they connect. It's all mechanistic. We are mechanism. If we are machines, then in principle at least, we should be able to build machines out of other stuff, which are just as alive as we are. But I think for us to admit that, we have to give up on our special-ness, in a certain way. And we've had the retreat from special-ness under the barrage of science and technology many times over the last few hundred years, at least. 500 years ago we had to give up the idea that we are the center of the universe when the earth started to go around the sun; 150 years ago, with Darwin, we had to give up the idea we were different from animals. And to imagine -- you know, it's always hard for us. Recently we've been battered with the idea that maybe we didn't even have our own creation event, here on earth, which people didn't like much. And then the human genome said, maybe we only have 35,000 genes. And that was really -- people didn't like that, we've got more genes than that. We don't like to give up our special-ness, so, you know, having the idea that robots could really have emotions, or that robots could be living creatures -- I think is going to be hard for us to accept. But we're going to come to accept it over the next 50 years or so.
А вторият въпрос е, ще искат ли машините да надделеят? Тук стандартният сценарий е, че ние създаваме тези неща, те израстват, ние ги отглеждаме, научават много от нас, а после започват да решават, че сме доста скучни и бавни. Искат да надделеят над нас. Онези от вас, които имат тийнейджъри, знаят за какво става въпрос. (Смях) Но Холивуд го разпростира към роботите. И въпросът е, знаете ли, дали някой случайно ще създаде робот, който да надделее над нас? Това е малко като оня самотен тип в задния двор, разбирате ли, "Случайно построих един 747". Знаете ли, според мен няма да стане така. И не смятам... (Смях) ...не смятам, че съзнателно ще създадем роботи, с които не се чувстваме удобно. Е... разбирате ли, няма да има супер лош робот. Преди това да стане, нали знаете, леко лош робот, а преди това - не толкова лош робот. (Смях) А ние просто няма да оставим нещата така. (Смях) Мисля, че ще приключа с това: роботите идват, няма кой знае за какво да се притесняваме, ще бъде много забавно и се надявам всички да се радвате на пътуването през следващите 50 години. (Аплодисменти)
And the second question is, will the machines want to take over? And here the standard scenario is that we create these things, they grow, we nurture them, they learn a lot from us, and then they start to decide that we're pretty boring, slow. They want to take over from us. And for those of you that have teenagers, you know what that's like. (Laughter) But Hollywood extends it to the robots. And the question is, you know, will someone accidentally build a robot that takes over from us? And that's sort of like this lone guy in the backyard, you know -- "I accidentally built a 747." I don't think that's going to happen. And I don't think -- (Laughter) -- I don't think we're going to deliberately build robots that we're uncomfortable with. We'll -- you know, they're not going to have a super bad robot. Before that has to come to be a mildly bad robot, and before that a not so bad robot. (Laughter) And we're just not going to let it go that way. (Laughter) So, I think I'm going to leave it at that: the robots are coming, we don't have too much to worry about, it's going to be a lot of fun, and I hope you all enjoy the journey over the next 50 years. (Applause)