What I want to tell you about today is how I see robots invading our lives at multiple levels, over multiple timescales. And when I look out in the future, I can't imagine a world, 500 years from now, where we don't have robots everywhere. Assuming -- despite all the dire predictions from many people about our future -- assuming we're still around, I can't imagine the world not being populated with robots. And then the question is, well, if they're going to be here in 500 years, are they going to be everywhere sooner than that? Are they going to be around in 50 years? Yeah, I think that's pretty likely -- there's going to be lots of robots everywhere. And in fact I think that's going to be a lot sooner than that. I think we're sort of on the cusp of robots becoming common, and I think we're sort of around 1978 or 1980 in personal computer years, where the first few robots are starting to appear.
Ik wil het vandaag hebben over hoe robots ons leven op meerdere niveaus, over meerdere tijdschalen binnendringen. Ik kan me de toekomstige wereld, 500 jaar na nu, zonder robots niet voorstellen. Ervan uitgaande dat - ondanks alle sombere voorspellingen van veel mensen over onze toekomst - we er nog steeds zullen zijn, kan ik me niet voorstellen dat de wereld niet zal worden bevolkt door robots. De vraag is of het niet sneller zal gaan gebeuren? Bijvoorbeeld binnen 50 jaar? Ja, ik denk dat er overal heel veel robots gaan zijn. In feite zal het nog een stuk sneller gaan. We staan op de vooravond van hun komst. Je kan het vergelijken met 1978 of 1980 voor de pc. De eerste robots beginnen te verschijnen.
Computers sort of came around through games and toys. And you know, the first computer most people had in the house may have been a computer to play Pong, a little microprocessor embedded, and then other games that came after that. And we're starting to see that same sort of thing with robots: LEGO Mindstorms, Furbies -- who here -- did anyone here have a Furby? Yeah, there's 38 million of them sold worldwide. They are pretty common. And they're a little tiny robot, a simple robot with some sensors, a little bit of processing actuation.
De eerste computers verschenen onder de vorm van spellen en speelgoed. De eerste computer die de meeste mensen in huis haalden, was misschien wel een computer om Pong te spelen, met een kleine ingebouwde microprocessor. Daarna kwamen andere spellen. Met robots gaat het net zo: LEGO Mindstorms, Furbies - die hier - heeft iemand hier een Furby? Ja, er zijn er wereldwijd 38 miljoen van verkocht. Je ziet ze overal. Het zijn klein eenvoudige robotjes met wat sensoren en wat mogelijkheid tot activiteit.
On the right there is another robot doll, who you could get a couple of years ago. And just as in the early days, when there was a lot of sort of amateur interaction over computers, you can now get various hacking kits, how-to-hack books. And on the left there is a platform from Evolution Robotics, where you put a PC on, and you program this thing with a GUI to wander around your house and do various stuff. And then there's a higher price point sort of robot toys -- the Sony Aibo. And on the right there, is one that the NEC developed, the PaPeRo, which I don't think they're going to release. But nevertheless, those sorts of things are out there.
Rechts is een andere robotpop, die je een paar jaar geleden kon kopen. En net zoals vroeger met de computer toen er een heleboel amateurs actief waren, kan je nu allerlei doe-het-zelfboeken en kits kopen. Links is er een platform van Evolution Robotics, waar je een pc op zet en het ding programmeert met een GUI om door je huis te zwerven en allerlei dingen te doen. Dan is er ook nog robotspeelgoed in een hogere prijsklasse - de Sony Aibo. Rechts is er een van NEC, de PaPeRo, waarvan ik niet denk dat ze hem op de markt gaan brengen. Maar toch is dat soort dingen er al.
And we've seen, over the last two or three years, lawn-mowing robots, Husqvarna on the bottom, Friendly Robotics on top there, an Israeli company. And then in the last 12 months or so we've started to see a bunch of home-cleaning robots appear. The top left one is a very nice home-cleaning robot from a company called Dyson, in the U.K. Except it was so expensive -- 3,500 dollars -- they didn't release it.
De afgelopen twee of drie jaar hebben we grasmaairobots gezien, Onderaan Husqvarna, bovenaan Friendly Robotics van een Israëlisch bedrijf. Het laatste jaar zagen we een hoop stofzuigerrobots verschijnen. Linksboven zie je een zeer mooie stofzuigerrobot van het bedrijf Dyson, in het Verenigd Koninkrijk. Maar hij was zo duur - 3500 dollar – dat ze hem niet op de markt brachten.
But at the bottom left, you see Electrolux, which is on sale. Another one from Karcher. At the bottom right is one that I built in my lab about 10 years ago, and we finally turned that into a product. And let me just show you that. We're going to give this away I think, Chris said, after the talk. This is a robot that you can go out and buy, and that will clean up your floor. And it starts off sort of just going around in ever-increasing circles. If it hits something -- you people see that? Now it's doing wall-following, it's following around my feet to clean up around me. Let's see, let's -- oh, who stole my Rice Krispies? They stole my Rice Krispies! (Laughter) Don't worry, relax, no, relax, it's a robot, it's smart! (Laughter) See, the three-year-old kids, they don't worry about it. It's grown-ups that get really upset. (Laughter) We'll just put some crap here. (Laughter) Okay. (Laughter) I don't know if you see -- so, I put a bunch of Rice Krispies there, I put some pennies, let's just shoot it at that, see if it cleans up. Yeah, OK. So -- we'll leave that for later. (Applause)
Linksonder zie je de Electrolux, die is te koop. Een andere van Kärcher. Rechts onderaan is er een die ik bouwde in mijn lab ongeveer 10 jaar geleden en die nu marktklaar is. Ik toon hem even. We gaan deze na de talk weggeven zei Chris, denk ik. Dit is een robot die je kunt kopen en die je vloer zal schoonmaken. Hij begint rond te gaan in steeds grotere cirkels. Als hij iets raakt - zien jullie dat? Nu gaat hij de hindernis volgen, rond mijn voeten rijden, om me heen schoonmaken. Laten eens kijken, laten we - oh, wie heeft mijn Rice Krispies gepikt? Ze hebben mijn Rice Krispies gestolen! (Gelach) Maak je geen zorgen, kalm, het is een robot, hij is slim! (Gelach) Driejarige kinderen malen daar niet om. Alleen de volwassenen. (Gelach) We gaan hier gewoon wat rommel rondstrooien. (Gelach) Oké. (Gelach) Ik weet niet of je het ziet – ik liet daar wat Rice Krispies vallen, Ook wat centen, laten we het eens proberen, kijken of hij opruimt. Ja, Oké. - Dat laten we voor later. (Applaus)
Part of the trick was building a better cleaning mechanism, actually; the intelligence on board was fairly simple. And that's true with a lot of robots. We've all, I think, become, sort of computational chauvinists, and think that computation is everything, but the mechanics still matter. Here's another robot, the PackBot, that we've been building for a bunch of years. It's a military surveillance robot, to go in ahead of troops -- looking at caves, for instance. But we had to make it fairly robust, much more robust than the robots we build in our labs. (Laughter) On board that robot is a PC running Linux. It can withstand a 400G shock. The robot has local intelligence: it can flip itself over, can get itself into communication range, can go upstairs by itself, et cetera. Okay, so it's doing local navigation there. A soldier gives it a command to go upstairs, and it does. That was not a controlled descent. (Laughter) Now it's going to head off. And the big breakthrough for these robots, really, was September 11th. We had the robots down at the World Trade Center late that evening. Couldn't do a lot in the main rubble pile, things were just too -- there was nothing left to do. But we did go into all the surrounding buildings that had been evacuated, and searched for possible survivors in the buildings that were too dangerous to go into. Let's run this video. Reporter: ...battlefield companions are helping to reduce the combat risks. Nick Robertson has that story. Rodney Brooks: Can we have another one of these? Okay, good. So, this is a corporal who had seen a robot two weeks previously. He's sending robots into caves, looking at what's going on. The robot's being totally autonomous. The worst thing that's happened in the cave so far was one of the robots fell down ten meters.
Een deel van de truc was eigenlijk het bouwen van een beter reinigingsmechanisme; de intelligentie aan boord was vrij simpel. Dat is waar voor veel robots. We zijn allemaal, denk ik, een beetje ‘computerchauvinisten’ geworden en denken dat berekenen alles is, maar de mechaniek is nog steeds belangrijk. Hier is nog een robot, de PackBot, die we al een tijdje maken. Het is een militaire surveillancerobot om de troepen vooraf te gaan - rondkijken in grotten, bijvoorbeeld. Maar we moesten hem vrij robuust maken, veel robuuster dan de robots die we in onze labs bouwen. (Gelach) Aan boord van die robot zit een pc met Linux. Hij is bestand tegen schokken van 400 g. De robot heeft ingebouwde intelligentie: hij kan kopje over doen, zich binnen communicatiebereik brengen, zelf een trap oplopen, enzovoort. Daar is hij bezig met lokale navigatie. Een soldaat geeft hem de opdracht om naar boven te gaan en hij doet het. Dat was geen gecontroleerde afdaling. (Gelach) Daar gaat ie. 9/11 betekende de grote doorbraak voor deze robots. We brachten die avond de robots naar het World Trade Center. Maar ze konden niet veel doen in die grote stapel puin - er was niets meer te doen. Maar we zijn in alle geëvacueerde omliggende gebouwen gaan zoeken naar mogelijke overlevenden. Het was te gevaarlijk om erin te gaan. Laten we deze video eens bekijken. Reporter: ... deze slagveldmetgezellen helpen de risico's te verminderen. Een reportage van Nick Robertson. Rodney Brooks: Kunnen we er nog eentje hebben? Oké, goed. Dit is een korporaal die pas twee weken eerder een robot had gezien. Hij stuurt robots de grotten in om te kijken naar wat er gebeurt. De robot is volledig autonoom. Het ergste wat er tot nu toe in de grot is gebeurd, was dat een van de robots een val van tien meter maakte.
So one year ago, the US military didn't have these robots. Now they're on active duty in Afghanistan every day. And that's one of the reasons they say a robot invasion is happening. There's a sea change happening in how -- where technology's going. Thanks. And over the next couple of months, we're going to be sending robots in production down producing oil wells to get that last few years of oil out of the ground. Very hostile environments, 150˚ C, 10,000 PSI. Autonomous robots going down, doing this sort of work. But robots like this, they're a little hard to program. How, in the future, are we going to program our robots and make them easier to use? And I want to actually use a robot here -- a robot named Chris -- stand up. Yeah. Okay. Come over here. Now notice, he thinks robots have to be a bit stiff. He sort of does that. But I'm going to -- Chris Anderson: I'm just British. RB: Oh. (Laughter) (Applause) I'm going to show this robot a task. It's a very complex task. Now notice, he nodded there, he was giving me some indication he was understanding the flow of communication. And if I'd said something completely bizarre he would have looked askance at me, and regulated the conversation. So now I brought this up in front of him. I'd looked at his eyes, and I saw his eyes looked at this bottle top. And I'm doing this task here, and he's checking up. His eyes are going back and forth up to me, to see what I'm looking at -- so we've got shared attention. And so I do this task, and he looks, and he looks to me to see what's happening next. And now I'll give him the bottle, and we'll see if he can do the task. Can you do that? (Laughter) Okay. He's pretty good. Yeah. Good, good, good. I didn't show you how to do that. Now see if you can put it back together. (Laughter) And he thinks a robot has to be really slow. Good robot, that's good.
Vorig jaar beschikte het Amerikaanse leger nog niet over deze robots. Nu worden ze in Afghanistan dagelijks gebruikt. Daarom zeggen ze dat er een robotinvasie aan de gang is. De technologie is in volle ontwikkeling. Bedankt. Binnen enkele maanden gaan we robots naar beneden sturen in de olieputten om die laatste paar jaar olie uit de grond te krijgen. Zeer vijandige omgevingen, 150 ˚C, 700 bar. Autonome robots doen daar beneden dit soort werk. Maar robots als deze zijn een beetje moeilijk om te programmeren. Hoe gaan we in de toekomst onze robots programmeren om ze gemakkelijker te kunnen gebruiken? Ik wil hier eigenlijk gebruik maken van een robot - een robot met de naam Chris – sta op. Yeah. Oké. Kom eens hier. Merk op dat hij denkt dat robots een beetje stijf moeten zijn. Hij doet dat een beetje. Maar ik ga - Chris Anderson: Ik ben alleen maar Brits. RB: Oh. (Gelach) (Applaus) Ik ga deze robot een taak laten zien. Een erg complexe taak. Let nu op, hij knikte daar, hij gaf me een indicatie dat hij de communicatiestroom begreep. Als ik iets heel bizar had gezegd zou hij me scheef hebben aangekeken en het gesprek in goede banen geleid. Ik plaatste dit voor hem. Ik keek naar zijn ogen en ik zag zijn ogen naar de flessenhals gaan. Ik voer deze taak uit en hij volgt dat. Zijn ogen volgen af en toe de mijne om te zien waar ik naar kijk - we hebben dus gedeelde aandacht. Ik voer deze taak uit, hij kijkt en kijkt ook naar mij om te zien wat er gaat gebeuren. Nu geef ik hem de fles en we zullen zien of hij de taak aankan. Kan je dat? (Gelach) Oké. Hij is best goed. Ja. Goed, goed, goed. Ik heb je niet laten zien hoe je dat moet doen. Nu eens zien of je het weer in elkaar kan zetten. (Gelach) Hij denkt dat een robot echt traag moet zijn. Goede robot, dat is goed.
So we saw a bunch of things there. We saw when we're interacting, we're trying to show someone how to do something, we direct their visual attention. The other thing communicates their internal state to us, whether he's understanding or not, regulates a social interaction. There was shared attention looking at the same sort of thing, and recognizing socially communicated reinforcement at the end. And we've been trying to put that into our lab robots because we think this is how you're going to want to interact with robots in the future. I just want to show you one technical diagram here. The most important thing for building a robot that you can interact with socially is its visual attention system. Because what it pays attention to is what it's seeing and interacting with, and what you're understanding what it's doing. So in the videos I'm about to show you, you're going to see a visual attention system on a robot which has -- it looks for skin tone in HSV space, so it works across all human colorings. It looks for highly saturated colors, from toys. And it looks for things that move around. And it weights those together into an attention window, and it looks for the highest-scoring place -- the stuff where the most interesting stuff is happening -- and that is what its eyes then segue to. And it looks right at that. At the same time, some top-down sort of stuff: might decide that it's lonely and look for skin tone, or might decide that it's bored and look for a toy to play with. And so these weights change.
We zagen daar een hoop dingen. We zagen dat als we interageren, als we proberen iemand te tonen hoe iets gedaan wordt, we hun visuele aandacht geleiden. Het andere ding communiceert hun interne toestand naar ons en zorgt voor sociale interactie of hij het begrijpt of niet. Er was gedeelde aandacht voor hetzelfde soort dingen en aan het eind herkennen van sociaal gecommuniceerde bekrachtiging. Dat hebben we proberen te verwezenlijken in ons labrobots omdat we denken dat dit is hoe je in de toekomst met robots gaat willen communiceren. Ik toon jullie hier een technisch diagram. Het allerbelangrijkste voor het bouwen van een robot waarmee je sociaal kunt communiceren, is zijn visuele-aandachtsysteem. Want hij besteedt aandacht aan wat hij ziet en waarmee hij interageert, en of jij begrijpt wat hij doet. In de video’s die ik jullie ga tonen, ga je een visuele-aandachtsysteem zien bij een robot. Hij let op huidskleur in de HSV-kleurruimte, hij werkt met alle menselijke huidskleuren. Het zoekt naar zeer verzadigde kleuren, van speelgoed. En hij let op dingen die bewegen. Hij weegt die af in een aandachtsvenster, en gaat naar de plaats met de hoogste score kijken - waar de interessantste dingen gebeuren - en dat is wat zijn ogen dan gaan ‘segue-en’ (volgen). Daar kijkt hij naar. Op hetzelfde moment gebeuren er een aantal top-down dingen: hij zou kunnen besluiten dat hij eenzaam is en zoeken naar huidskleur, of hij kan beslissen dat hij zich verveelt en op zoek gaan naar een stuk speelgoed om mee te spelen. Dan krijgen andere zaken meer gewicht.
And over here on the right, this is what we call the Steven Spielberg memorial module. Did people see the movie "AI"? (Audience: Yes.)
Hier aan de rechterkant is wat wij de Steven-Spielberg-gedenktekenmodule noemen. Heeft iemand de film ‘AI’ gezien? (Publiek: Ja.)
RB: Yeah, it was really bad, but --
RB: Ja, hij was echt slecht, maar -
remember, especially when Haley Joel Osment, the little robot, looked at the blue fairy for 2,000 years without taking his eyes off it? Well, this gets rid of that, because this is a habituation Gaussian that gets negative, and more and more intense as it looks at one thing. And it gets bored, so it will then look away at something else. So, once you've got that -- and here's a robot, here's Kismet, looking around for a toy. You can tell what it's looking at. You can estimate its gaze direction from those eyeballs covering its camera, and you can tell when it's actually seeing the toy. And it's got a little bit of an emotional response here. (Laughter) But it's still going to pay attention if something more significant comes into its field of view -- such as Cynthia Breazeal, the builder of this robot, from the right. It sees her, pays attention to her. Kismet has an underlying, three-dimensional emotional space, a vector space, of where it is emotionally. And at different places in that space, it expresses -- can we have the volume on here? Can you hear that now, out there? (Audience: Yeah.)
herinner je je dat Haley Joel Osment, de kleine robot, 2000 jaren naar de blauwe fee keek zonder zijn ogen af te wenden? Met dit ontdoen we ons ervan want dit is een Gaussiaanse voor gewenning die negatief wordt en wel des te meer als hij naar één ding blijft kijken. Hij raakt verveeld en zal dan wegkijken naar iets anders. Nu je dat hebt gesnapt: hier is een robot, hier is Kismet op zoek naar een stuk speelgoed. Je kan zien waar hij naar kijkt. Je kan zijn blikrichting raden door die oogballen op zijn camera en je kan zien wanneer hij het speelgoed in de gaten heeft. Hij toont hier wat emotie. (Gelach) Maar hij blijft aandachtig als er iets meer betekenisvol in zijn gezichtsveld komt - zoals Cynthia Breazeal, de bouwer van deze robot, van rechts. Hij ziet haar, besteedt er aandacht aan. Kismet heeft een onderliggende, driedimensionale emotionele ruimte, een vectorruimte, van waar hij zich emotioneel bevindt. Op verschillende plekken in die ruimte, drukt hij zich uit - kan het volume even wat hoger? Horen jullie het nu? (Publiek: Ja)
Kismet: Do you really think so? Do you really think so? Do you really think so?
Kismet: Denk je dat echt? Denk je dat echt? Denk je dat echt?
RB: So it's expressing its emotion through its face and the prosody in its voice. And when I was dealing with my robot over here, Chris, the robot, was measuring the prosody in my voice, and so we have the robot measure prosody for four basic messages that mothers give their children pre-linguistically. Here we've got naive subjects praising the robot:
RB: Hij uit zijn emoties via zijn gezicht en de intonatie in zijn stem. Toen ik bezig was met mijn robot hier, Chris, mat hij de intonatie van mijn stem. Daarom laten we de robot de intonatie meten voor vier elementaire boodschappen die moeders hun kinderen pre-linguïstisch meedelen. Hier laten we onvoorbereide proefpersonen de robot prijzen:
Voice: Nice robot. You're such a cute little robot. (Laughter) RB: And the robot's reacting appropriately.
Stem: Leuke robot. Je bent zo'n schattige kleine robot. (Gelach) RB: En de robot reageert adequaat.
Voice: ...very good, Kismet. (Laughter)
Stem: ... heel goed, Kismet. (Gelach)
Voice: Look at my smile.
Stem: Kijk eens naar mijn glimlach.
RB: It smiles. She imitates the smile. This happens a lot. These are naive subjects. Here we asked them to get the robot's attention and indicate when they have the robot's attention.
RB: Hij glimlacht. Hij imiteert de glimlach. Dit gebeurt vaak. Dit zijn onvoorbereide proefpersonen. Hier hebben we hun gevraagd om de aandacht van de robot te trekken en aan te geven wanneer ze zijn aandacht hebben.
Voice: Hey, Kismet, ah, there it is.
Stem: Hey, Kismet, ah, daar is ie.
RB: So she realizes she has the robot's attention. Voice: Kismet, do you like the toy? Oh.
RB: Ze beseft dat ze de aandacht van de robot heeft. Stem: Kismet, vind je het speeltje leuk? Oh.
RB: Now, here they're asked to prohibit the robot, and this first woman really pushes the robot into an emotional corner.
RB: Hier zijn ze gevraagd om de robot iets te verbieden, en de eerste vrouw duwt de robot echt in een emotionele hoek.
Voice: No. No. You're not to do that. No. (Laughter)
Stem: Nee, nee, dat mag niet. Nee. (Gelach)
Not appropriate. No. No. (Laughter)
Mag niet. Nee, nee (Gelach)
RB: I'm going to leave it at that.
RB: Hier ga ik het bij laten.
We put that together. Then we put in turn taking. When we talk to someone, we talk. Then we sort of raise our eyebrows, move our eyes, give the other person the idea it's their turn to talk. And then they talk, and then we pass the baton back and forth between each other. So we put this in the robot. We got a bunch of naive subjects in, we didn't tell them anything about the robot, sat them down in front of the robot and said, talk to the robot. Now what they didn't know was, the robot wasn't understanding a word they said, and that the robot wasn't speaking English. It was just saying random English phonemes. And I want you to watch carefully, at the beginning of this, where this person, Ritchie, who happened to talk to the robot for 25 minutes -- (Laughter) -- says, "I want to show you something. I want to show you my watch." And he brings the watch center, into the robot's field of vision, points to it, gives it a motion cue, and the robot looks at the watch quite successfully. We don't know whether he understood or not that the robot -- Notice the turn-taking. Ritchie: OK, I want to show you something. OK, this is a watch that my girlfriend gave me. Robot: Oh, cool. Ritchie: Yeah, look, it's got a little blue light in it too. I almost lost it this week. (Laughter) RB: So it's making eye contact with him, following his eyes. Ritchie: Can you do the same thing? Robot: Yeah, sure. RB: And they successfully have that sort of communication.
Dat zetten we in elkaar. Dan voegen we beurtelings werken toe. Wanneer we met iemand praten, praten we, dan trekken we onze wenkbrauwen op, bewegen onze ogen om de ander aan te geven dat het zijn beurt is om te praten. Dan gaan zij praten en dan geven we het stokje heen en weer aan elkaar door. Daarom hebben we dit in de robot ondergebracht. We brachten er een stel onvoorbereide proefpersonen bij, vertelden hen niets over de robot, zetten ze voor de robot en zeiden: “Praat met de robot.” Wat zij niet wisten was dat de robot geen woord snapte van wat ze zeiden en dat de robot geen Engels sprak. Hij produceerde alleen maar wat willekeurige Engelse fonemen. Let vooral in het begin goed op als deze persoon, Ritchie, die 25 minuten lang met de robot sprak - (Gelach) - zegt: "Ik wil je iets laten zien. Ik wil je mijn horloge tonen.” Hij brengt zijn horloge midden in het gezichtsveld van de robot, wijst ernaar, geeft hem een bewegingsaanwijzing en de robot slaagt erin naar het horloge te kijken. We weten niet of hij wel of niet begreep, dat de robot - Let op het beurtelings reageren. Ritchie: Ik wil je iets laten zien. Dit is een horloge dat ik kreeg van mijn vriendin. Robot: Oh, cool. Ritchie: Ja, kijk, er zit ook een blauw lichtje in. Ik verloor het deze week bijna. (Gelach) RB: Hij maakt oogcontact met hem, volgt zijn ogen. Ritchie: Kan je dat ook? Robot: Ja, zeker. RB: Ze slagen er dus in een bepaald soort communicatie tot stand te brengen.
And here's another aspect of the sorts of things that Chris and I were doing. This is another robot, Cog. They first make eye contact, and then, when Christie looks over at this toy, the robot estimates her gaze direction and looks at the same thing that she's looking at. (Laughter) So we're going to see more and more of this sort of robot over the next few years in labs. But then the big questions, two big questions that people ask me are: if we make these robots more and more human-like, will we accept them, will we -- will they need rights eventually? And the other question people ask me is, will they want to take over? (Laughter) And on the first -- you know, this has been a very Hollywood theme with lots of movies. You probably recognize these characters here -- where in each of these cases, the robots want more respect. Well, do you ever need to give robots respect? They're just machines, after all. But I think, you know, we have to accept that we are just machines. After all, that's certainly what modern molecular biology says about us. You don't see a description of how, you know, Molecule A, you know, comes up and docks with this other molecule. And it's moving forward, you know, propelled by various charges, and then the soul steps in and tweaks those molecules so that they connect. It's all mechanistic. We are mechanism. If we are machines, then in principle at least, we should be able to build machines out of other stuff, which are just as alive as we are. But I think for us to admit that, we have to give up on our special-ness, in a certain way. And we've had the retreat from special-ness under the barrage of science and technology many times over the last few hundred years, at least. 500 years ago we had to give up the idea that we are the center of the universe when the earth started to go around the sun; 150 years ago, with Darwin, we had to give up the idea we were different from animals. And to imagine -- you know, it's always hard for us. Recently we've been battered with the idea that maybe we didn't even have our own creation event, here on earth, which people didn't like much. And then the human genome said, maybe we only have 35,000 genes. And that was really -- people didn't like that, we've got more genes than that. We don't like to give up our special-ness, so, you know, having the idea that robots could really have emotions, or that robots could be living creatures -- I think is going to be hard for us to accept. But we're going to come to accept it over the next 50 years or so.
Hier is een ander aspect van de dingen die Chris en ik deden. Dit is een andere robot, Cog. Ze maken eerst oogcontact en dan, als Christie naar dit speeltje kijkt, raadt de robot haar blikrichting en kijkt naar hetzelfde ding waar zij naar kijkt. (Gelach) We gaan dit soort robot de komende jaren in laboratoria meer en meer te zien krijgen. Maar dan de grote vragen, de twee grote vragen die mensen mij stellen, zijn: “Als we deze robots meer en meer mensachtig gaan maken, zullen we ze dan accepteren, zullen ze dan uiteindelijk rechten moeten hebben?” De andere vraag die mensen mij stellen is: “Zullen ze de zaak willen overnemen?” (Gelach) Op de eerste – ja dat is een echt Hollywoodthema met een hoop films. Je herkent waarschijnlijk deze personages - waar in elk van deze gevallen, de robots meer respect willen. Zal je robots ooit moeten respecteren? Het zijn per slot van rekening toch alleen maar machines. Maar ik denk, dat we moeten accepteren dat wij ook slechts machines zijn. Dat is immers wat de moderne moleculaire biologie over ons zegt. Je zal geen beschrijving vinden van hoe molecule A zich, aangedreven door tegengestelde ladingen, beweegt naar molecule B om zich dan, door de bemoeienis van een ‘ziel’, eraan te binden. Het is allemaal mechanistisch. We zijn een mechanisme. Als we machines zijn, dan zijn we, in principe althans, in staat om machines te bouwen met behulp van andere dingen. Machines die net zo levend zijn als wij. Maar ik denk dat om dat toe te geven, we onze uniciteit moeten opgeven. We hebben onze uniciteit, op zijn minst in de afgelopen paar honderd jaar, al vaak moeten opgeven onder het spervuur van wetenschap en technologie. 500 jaar geleden moesten we het idee opgeven dat wij het middelpunt van het universum waren toen de aarde rond de zon begon te draaien. 150 jaar geleden moesten we met Darwin het idee opgeven dat we iets anders waren dan dieren. Voor ons moeilijk verteerbaar. Onlangs werden we om de oren geslagen met het idee dat we misschien op aarde niet eens onze speciale schepping hadden. Mensen houden daar niet van. Dan vertelde het menselijk genoom ons dat we misschien maar 35 duizend genen hadden. Daar houden mensen ook niet van, we willen meer genen dan dat. We houden er niet van onze uniciteit op te geven. Het idee dat robots echt emoties zouden kunnen hebben of dat robots levende wezens kunnen worden - ik denk dat we dat moeilijk zullen kunnen slikken. Maar we gaan het in de komende 50 jaar of zo moeten accepteren.
And the second question is, will the machines want to take over? And here the standard scenario is that we create these things, they grow, we nurture them, they learn a lot from us, and then they start to decide that we're pretty boring, slow. They want to take over from us. And for those of you that have teenagers, you know what that's like. (Laughter) But Hollywood extends it to the robots. And the question is, you know, will someone accidentally build a robot that takes over from us? And that's sort of like this lone guy in the backyard, you know -- "I accidentally built a 747." I don't think that's going to happen. And I don't think -- (Laughter) -- I don't think we're going to deliberately build robots that we're uncomfortable with. We'll -- you know, they're not going to have a super bad robot. Before that has to come to be a mildly bad robot, and before that a not so bad robot. (Laughter) And we're just not going to let it go that way. (Laughter) So, I think I'm going to leave it at that: the robots are coming, we don't have too much to worry about, it's going to be a lot of fun, and I hope you all enjoy the journey over the next 50 years. (Applause)
En de tweede vraag: “Zullen de machines de zaak willen overnemen?” Het standaard scenario is dat we deze dingen gaan maken, ze groeien, we voeden ze, ze leren heel veel van ons en dan gaan ze vinden dat we maar erg saai en traag zijn. Ze zullen het willen overnemen van ons. Ouders met tieners kennen dat. (Gelach) Maar Hollywood breidt dat uit naar robots. De vraag is of iemand per ongeluk een robot bouwt die het overneemt van ons? Dat is zoiets als die eenling in zijn achtertuin die zegt: "Ik heb per ongeluk een 747 gebouwd." Ik denk niet dat dat gaat gebeuren. Ik denk niet dat - (Gelach) - ik denk niet dat we bewust robots gaan bouwen waar we ons ongemakkelijk bij gaan voelen. We gaan geen superslechte robot maken. Daarvoor moet je eerst een robot maken die een beetje slecht is en daarvóór een niet zo slechte robot. (Gelach) Zoiets gaan we gewoon niet laten gebeuren. (Gelach) Ik denk dat ik het hierbij ga laten: de robots komen. We hoeven ons daar niet te veel zorgen over te maken, het gaat heel leuk zijn en ik hoop dat jullie er de volgende 50 jaar nog veel plezier aan zullen beleven. (Applaus)