What I want to tell you about today is how I see robots invading our lives at multiple levels, over multiple timescales. And when I look out in the future, I can't imagine a world, 500 years from now, where we don't have robots everywhere. Assuming -- despite all the dire predictions from many people about our future -- assuming we're still around, I can't imagine the world not being populated with robots. And then the question is, well, if they're going to be here in 500 years, are they going to be everywhere sooner than that? Are they going to be around in 50 years? Yeah, I think that's pretty likely -- there's going to be lots of robots everywhere. And in fact I think that's going to be a lot sooner than that. I think we're sort of on the cusp of robots becoming common, and I think we're sort of around 1978 or 1980 in personal computer years, where the first few robots are starting to appear.
Ce dont je veux vous parler aujourd'hui, c'est de la façon dont les robots envahissent nos vies à plusieurs niveaux, et sur différentes échelles de temps. Et quand j'imagine le futur, je ne peux imaginer un monde, dans 500 ans, où les robots ne seraient pas omniprésents, en supposant -- malgré toutes les prédictions pessimistes de beaucoup de gens sur notre avenir -- en supposant que nous soyons toujours là, je n'imagine pas que le monde ne soit pas peuplé de robots. Alors la question est, s'ils sont partout dans 500 ans, ne le seront-ils pas déjà avant? Seront-ils là dans 50 ans? Oui, je pense que c'est possible -- Il va y avoir beaucoup de robots autour de nous. Et en fait, je pense que ce sera même plus tôt que ça. Je pense que nous en sommes au point où les robots sont devenus communs, et je pense que nous y sommes depuis les années 1978 ou 1980 soit depuis les ordinateurs personnels, lorsque les premiers robots sont apparus.
Computers sort of came around through games and toys. And you know, the first computer most people had in the house may have been a computer to play Pong, a little microprocessor embedded, and then other games that came after that. And we're starting to see that same sort of thing with robots: LEGO Mindstorms, Furbies -- who here -- did anyone here have a Furby? Yeah, there's 38 million of them sold worldwide. They are pretty common. And they're a little tiny robot, a simple robot with some sensors, a little bit of processing actuation.
D'une certaine manière, les ordinateurs sont apparus par le biais des jeux et des jouets. Et comme vous le savez, le premier ordinateur que la plupart des gens avaient à la maison devait être un ordinateur pour jouer à Pong, un petit microprocesseur embarqué, comme pour tous les jeux qui sont venus après ça. Et nous commençons à observer la même chose avec les robots: LEHO Mindstorms, Furbies -- qui ici -- est-ce que quelqu'un a un Furby? Oui, il s'en est vendu 38 millions à travers le monde. Ils sont très courants, en fait c'est un miniscule petit robot, un simple robot avec des capteurs. C'est une sorte de processus d'actionnement.
On the right there is another robot doll, who you could get a couple of years ago. And just as in the early days, when there was a lot of sort of amateur interaction over computers, you can now get various hacking kits, how-to-hack books. And on the left there is a platform from Evolution Robotics, where you put a PC on, and you program this thing with a GUI to wander around your house and do various stuff. And then there's a higher price point sort of robot toys -- the Sony Aibo. And on the right there, is one that the NEC developed, the PaPeRo, which I don't think they're going to release. But nevertheless, those sorts of things are out there.
Sur la droite c'est un autre robot poupée, que vous pouviez vous procurer il y a quelques années. Et comme aux premiers jours, lorsqu'il il y avait de nombreuses sortes d'interactions d'amateurs sur les ordinateurs, vous pouvez maintenant obtenir différents kits et livres pour les personnaliser. Et sur la gauche, il y a une plateforme de Evolution Robotics, où vous déposez un PC, et vous programmez cette chose avec un GUI pour qu'elle se déplace dans votre maison et réalise différentes tâches. Puis il y a plus cher, un genre de robots jouets -- Le Aibo Sony. Et là sur la droite, en voilà un développé par NEC, le PaPeRo, mais je ne pense pas qu'ils vont le lancer sur le marché. Mais néanmoins, ce genre d'objets existe.
And we've seen, over the last two or three years, lawn-mowing robots, Husqvarna on the bottom, Friendly Robotics on top there, an Israeli company. And then in the last 12 months or so we've started to see a bunch of home-cleaning robots appear. The top left one is a very nice home-cleaning robot from a company called Dyson, in the U.K. Except it was so expensive -- 3,500 dollars -- they didn't release it.
Et ces derniers 2 ou 3 ans, nous avons vu des robots tondeurs de gazon, Husqvarna en bas, Friendly Robotics en haut, une entreprise Israëlienne. Puis ces 12 derniers mois environ nous avons vu apparaitre plusieurs robots de nettoyage domestique. En haut à gauche c'est un très joli robot de ménage d'intérieur d'une entreprise appellé Dyson, au Royaume-Uni. Sauf qu'il était si cher -- 3 500 dollars -- qu'ils ne l'ont pas lancé sur le marché.
But at the bottom left, you see Electrolux, which is on sale. Another one from Karcher. At the bottom right is one that I built in my lab about 10 years ago, and we finally turned that into a product. And let me just show you that. We're going to give this away I think, Chris said, after the talk. This is a robot that you can go out and buy, and that will clean up your floor. And it starts off sort of just going around in ever-increasing circles. If it hits something -- you people see that? Now it's doing wall-following, it's following around my feet to clean up around me. Let's see, let's -- oh, who stole my Rice Krispies? They stole my Rice Krispies! (Laughter) Don't worry, relax, no, relax, it's a robot, it's smart! (Laughter) See, the three-year-old kids, they don't worry about it. It's grown-ups that get really upset. (Laughter) We'll just put some crap here. (Laughter) Okay. (Laughter) I don't know if you see -- so, I put a bunch of Rice Krispies there, I put some pennies, let's just shoot it at that, see if it cleans up. Yeah, OK. So -- we'll leave that for later. (Applause)
Mais en bas à gauche vous voyez Electrolux, qui est en vente. Un autre de Karcher. En bas à droite c'en est un que j'ai construit dans mon labo il y a 10 ans, et nous l'avons finalement produit. Et laissez moi juste vous montrer cela. Nous allons le distribuer, je pense que Chris l'a dit, après la présentation. Voici un robot que vous pouvez vous procurer vous-même, et il nettoiera vos sols. Et il commence par tourner en faisant des cercles de plus en plus larges. Si il heurte quelque chose -- vous voyez ça ? Maintenant il commence à suivre le mur, il fait le tour de mes pieds pour nettoyer. Voyons voir -- oh, qui a volé volé mes céréales ?. Ils ont volé mes céréales (Rires) Pas d'inquiétude, détendez-vous, non, détendez-vous, il est intelligent. (Rires) Voyez, les enfants de 3 ans, ils ne préoccupent pas. Ce sont les adultes qui se mettent en colère. (Rires) On va juste mettre un peu de bordel ici. (Rires) D'accord. (Rires) Je ne sais pas si vous voyez -- alors, je mets un peu de céréales ici, Je mets des centimes, voyons s'il va nettoyer. Oui, d'accord. Alors -- nous allons laisser ça pour plus tard. (Applaudissements)
Part of the trick was building a better cleaning mechanism, actually; the intelligence on board was fairly simple. And that's true with a lot of robots. We've all, I think, become, sort of computational chauvinists, and think that computation is everything, but the mechanics still matter. Here's another robot, the PackBot, that we've been building for a bunch of years. It's a military surveillance robot, to go in ahead of troops -- looking at caves, for instance. But we had to make it fairly robust, much more robust than the robots we build in our labs. (Laughter) On board that robot is a PC running Linux. It can withstand a 400G shock. The robot has local intelligence: it can flip itself over, can get itself into communication range, can go upstairs by itself, et cetera. Okay, so it's doing local navigation there. A soldier gives it a command to go upstairs, and it does. That was not a controlled descent. (Laughter) Now it's going to head off. And the big breakthrough for these robots, really, was September 11th. We had the robots down at the World Trade Center late that evening. Couldn't do a lot in the main rubble pile, things were just too -- there was nothing left to do. But we did go into all the surrounding buildings that had been evacuated, and searched for possible survivors in the buildings that were too dangerous to go into. Let's run this video. Reporter: ...battlefield companions are helping to reduce the combat risks. Nick Robertson has that story. Rodney Brooks: Can we have another one of these? Okay, good. So, this is a corporal who had seen a robot two weeks previously. He's sending robots into caves, looking at what's going on. The robot's being totally autonomous. The worst thing that's happened in the cave so far was one of the robots fell down ten meters.
Le truc c'était en partie de construire un meilleur mécanisme de nettoyage en fait ; l'intelligence à l'intérieur était assez simple. Et c'est vrai pour de nombreux robots. Nous sommes tous devenus des programmateurs chauvins, je pense et nous pensons que la programmation fait tout, mais la mécanique reste encore importante. Voilà un autre robot, le PackBot, que nous avons construit il y a quelques années. C'est un robot de surveillance militaire, pour guider les troupes, regarder dans les grottes, par exemple. Mais nous devions le faire très résistant, beaucoup plus résistant que les robots que nous construisions dans nos labos. (Rires) A l'intérieur, ce robot est un PC sous Linux. Il peut résister à un choc de 400G. Le robot bénéficie d'une intelligence locale: il peut se retourner, il peut se mettre à portée de communication, il peut monter des marches tout seul, et cetera. D'accord, alors il navigue localement. Un soldat lui donne l'ordre d'aller en haut, et il s'exécute. Ce n'était pas une descente contrôlée. (Rires) Maintenant, il va partir. Et la grande perçée pour ces robots, s'est vraiment produite le 11 septembre. Nous avions ces robots au pied du World Trade Center tard ce soir là. Ils ne pouvaient pas faire grand chose dans cette pile de gravats, c'était trop pour eux -- il n'y avait plus rien à faire. Mais nous avons pu aller dans tous les immeubles aux alentours qui avaient été évacués, et chercher d'éventuels rescapés dans les immeubles dont l'accès était trop dangereux. Regardons la vidéo. Journaliste: ...Nos compagnons sur le champs de bataille nous aident à réduire les risques au combat. Nick Robertson connaît cette histoire. Rodney Brooks: Est-ce qu'on pourrait en avoir une autre? D'accord, entendu. Alors, c'est un caporal qui avait vu un robot deux semaines auparavant. Il envoie des robots dans des grottes, pour voir ce qui se passe. Le robot fait preuve de l'autonomie la plus totale. La pire chose qui est arrivée dans la grotte jusqu'ici était qu'un des robots a fait une chute de dix mètres.
So one year ago, the US military didn't have these robots. Now they're on active duty in Afghanistan every day. And that's one of the reasons they say a robot invasion is happening. There's a sea change happening in how -- where technology's going. Thanks. And over the next couple of months, we're going to be sending robots in production down producing oil wells to get that last few years of oil out of the ground. Very hostile environments, 150˚ C, 10,000 PSI. Autonomous robots going down, doing this sort of work. But robots like this, they're a little hard to program. How, in the future, are we going to program our robots and make them easier to use? And I want to actually use a robot here -- a robot named Chris -- stand up. Yeah. Okay. Come over here. Now notice, he thinks robots have to be a bit stiff. He sort of does that. But I'm going to -- Chris Anderson: I'm just British. RB: Oh. (Laughter) (Applause) I'm going to show this robot a task. It's a very complex task. Now notice, he nodded there, he was giving me some indication he was understanding the flow of communication. And if I'd said something completely bizarre he would have looked askance at me, and regulated the conversation. So now I brought this up in front of him. I'd looked at his eyes, and I saw his eyes looked at this bottle top. And I'm doing this task here, and he's checking up. His eyes are going back and forth up to me, to see what I'm looking at -- so we've got shared attention. And so I do this task, and he looks, and he looks to me to see what's happening next. And now I'll give him the bottle, and we'll see if he can do the task. Can you do that? (Laughter) Okay. He's pretty good. Yeah. Good, good, good. I didn't show you how to do that. Now see if you can put it back together. (Laughter) And he thinks a robot has to be really slow. Good robot, that's good.
Alors il y a un an, l'armée américaine n'avait pas ces robots. Aujourd'hui ils sont en service en Afghanistan tous les jours. Et c'est l'une des raisons qui fait dire qu'une invasion de robots est en marche. Il y a une transformation radicale de l'évolution de la technologie. Merci. Et au cours des tout prochains mois, nous allons lancer la production de robots qui descendront dans les puits de pétrole en exploitation pour en tirer les dernières années de pétrole. Un environnement très hostile, 150 degrés, 10,000 PSI. Des robots autonomes qui descendent faire ce genre de boulot. Mais de tels robots sont un peu difficiles à programmer. Comment, dans le futur, allons-nous programmer nos robots pour les rendre plus faciles d'usage? Et en fait je voudrais utiliser un robot ici -- un robot nommé Chris -- debout. Oui. Bien. Viens par ici. Maintenant regardez, il pense que les robots sont forcément un peu raide. Il l'est en quelques sortes. Mais je vais -- Chris Anderson: Je suis simplement Anglais. RB: Oh. (Rires) (Applaudissements) Je vais montrer une tâche à ce robot. C'est une tâche très complexe. Maintenant regardez, il a fait un signe de la tête, il me donnait des indications il comprenait le flot de la communication. Et si j'avais dit quelque chose de complétement bizarre il m'aurait regarder avec méfiance, et aurait régulé la conversation. Alors maintenant, j'ai mis cela en face de lui. J'ai regardé ses yeux, et j'ai vu ses yeux regarder en haut de cette bouteille. Et je suis en train de réaliser cette tâche juste là, et il vérifie. Ses yeux font des aller-retour, m'épiant pour voir ce que je regarde, donc nous partageons de l'attention. Et alors je réalise cette tâche, et il regarde, et il me regarde pour voir ce qui va se passer après. Et maintenant je vais lui donner la bouteille, et nous allons voir comment il exécute la tâche. Peux-tu faire ça? (Rires) D'accord. Il est plutôt bon. Oui. Bien, bien, bien. Je ne t'ai pas montré comment faire ça. Maintenant regarde si tu peux tout mettre ensemble. (Rires) Et il pense qu'un robot doit obligatoirement être lent. Bon robot, c'est bien.
So we saw a bunch of things there. We saw when we're interacting, we're trying to show someone how to do something, we direct their visual attention. The other thing communicates their internal state to us, whether he's understanding or not, regulates a social interaction. There was shared attention looking at the same sort of thing, and recognizing socially communicated reinforcement at the end. And we've been trying to put that into our lab robots because we think this is how you're going to want to interact with robots in the future. I just want to show you one technical diagram here. The most important thing for building a robot that you can interact with socially is its visual attention system. Because what it pays attention to is what it's seeing and interacting with, and what you're understanding what it's doing. So in the videos I'm about to show you, you're going to see a visual attention system on a robot which has -- it looks for skin tone in HSV space, so it works across all human colorings. It looks for highly saturated colors, from toys. And it looks for things that move around. And it weights those together into an attention window, and it looks for the highest-scoring place -- the stuff where the most interesting stuff is happening -- and that is what its eyes then segue to. And it looks right at that. At the same time, some top-down sort of stuff: might decide that it's lonely and look for skin tone, or might decide that it's bored and look for a toy to play with. And so these weights change.
Alors on a vu pas mal de choses ici. Nous avons vu que quand nous intéragissons, nous essayons de montrer à quelqu'un comment faire quelque chose, nous dirigeons leur attention visuelle. L'autre chose nous communique son état interne, si il comprend ou non, il régule l'intéraction sociale. Il y avait du partage d'attention lorsque l'on regardait le même genre de choses, et à la fin la reconnaissance d'un renforcement socialement communiqué. Et nous avons essayé d'intégrer ça dans nos robots de laboratoire parce que nous pensons que c'est ainsi que nous voulons interagir avec les robots dans le futur. J'aimerais seulement vous montrer un diagramme technique. Le plus important pour construire un robot avec lequel vous pouvez interagir socialement est son système d'attention visuelle. Parce qu'il prête attention à ce qu'il voit et à ce avec quoi il interagit, et à ce que vous comprenez qu'il fait. Alors dans les vidéos que je suis sur le point de vous montrer, vous allez voir un système d'attention visuelle sur un robot qui a -- il regarde les tons de couleur dans l'espace colorimétrique TSV, alors il passe en revue tout ça, vous savez, les colorants humains. Il recherche les couleurs à haute saturation, venant des jouets. Et il recherche des choses qui bougent. Et il pondère celles-ci ensemble dans une fenêtre d'attention, et il recherche le meilleur arrangement -- l'endroit où les choses les plus intéressantes se produisent. Et c'est vers cet endroit que ses yeux se dirigent. Et il fixe cet endroit. En même temps, un genre d'approche descendante : il pourrait décider qu'il se sent seul et aller chercher une teinte de peau, ou pourrait décider qu'il s'ennuie et partir à la recherche d'un jouet. Et alors ces pondérations changent.
And over here on the right, this is what we call the Steven Spielberg memorial module. Did people see the movie "AI"? (Audience: Yes.)
Et juste ici sur la droite, c'est ce qu'on appelle le module à la mémoire de Steven Spielberg. Est-ce que les gens ont vu le film A.I. Intelligence Artificielle? Public: Oui.
RB: Yeah, it was really bad, but --
RB: Oui, c'était vraiment mauvais, mais --
remember, especially when Haley Joel Osment, the little robot, looked at the blue fairy for 2,000 years without taking his eyes off it? Well, this gets rid of that, because this is a habituation Gaussian that gets negative, and more and more intense as it looks at one thing. And it gets bored, so it will then look away at something else. So, once you've got that -- and here's a robot, here's Kismet, looking around for a toy. You can tell what it's looking at. You can estimate its gaze direction from those eyeballs covering its camera, and you can tell when it's actually seeing the toy. And it's got a little bit of an emotional response here. (Laughter) But it's still going to pay attention if something more significant comes into its field of view -- such as Cynthia Breazeal, the builder of this robot, from the right. It sees her, pays attention to her. Kismet has an underlying, three-dimensional emotional space, a vector space, of where it is emotionally. And at different places in that space, it expresses -- can we have the volume on here? Can you hear that now, out there? (Audience: Yeah.)
souvenez vous, le moment où Haley Joel Osment, le petit robot, regarda la fée bleue pendant 2,000 ans sans détourner son regard? Et bien, on se débarasse de ça, parce que c'est une accomodation Gaussienne qui devient négative, et de plus en plus intense quand il fixe quelque chose. Et il s'ennuie, alors il ira regarder quelque chose d'autre. Alors, une fois que vous avez compris ça -- et voici un robot, voici Kismet, à la recherche d'un jouet. Vous voyez ce qu'il regarde. Vous pouvez deviner la direction de son regard grâce aux globes oculaires qui couvrent sa caméra, et vous pouvez voir le moment exact où il repère vraiment le jouet. Et on remarque ici qu'il a une sorte de petite réaction émotionnelle. (Rires) Mais il va pourtant continuer à faire attention si quelque chose de plus important entre dans son champs de vision -- comme par exemple Cynthia Breazeal, celle qui a construit ce robot -- par la droite. Il la voit, elle attire son attention. Kismet possède un espace émotionnel en trois dimensions sous-jacentes, un espace vectoriel, représentant son état émotionnel. Et à différents points dans cet espace, il exprime -- est-ce qu'on peut avoir du son par ici? Est-ce que vous entendez ça, juste ici? Public: Oui.
Kismet: Do you really think so? Do you really think so? Do you really think so?
Kismet: Etes-vous vraiment certain? Etes-vous vraiment certain? Etes-vous vraiment certain?
RB: So it's expressing its emotion through its face and the prosody in its voice. And when I was dealing with my robot over here, Chris, the robot, was measuring the prosody in my voice, and so we have the robot measure prosody for four basic messages that mothers give their children pre-linguistically. Here we've got naive subjects praising the robot:
RB: Donc il exprime son émotion avec son visage et la prosodie dans sa voix. Et pendant que je m'occupais du robot ici, Chris, le robot, il était en train de mesurer la prosodie dans ma voix. et donc nous avons un robot qui mesure la prosodie pour quatre messages de base que les mères donnent de façon pre-linguistique à leurs enfants. Alors là nous avons de simples cobayes félicitant le robot,
Voice: Nice robot. You're such a cute little robot. (Laughter) RB: And the robot's reacting appropriately.
Voix: Gentil robot. Tu es vraiment un gentil petit robot. (Rires) Et le robot réagit de façon appropriée.
Voice: ...very good, Kismet. (Laughter)
Voix: ...très bien, Kismet. (Rires)
Voice: Look at my smile.
Voix: Regarde mon sourire.
RB: It smiles. She imitates the smile. This happens a lot. These are naive subjects. Here we asked them to get the robot's attention and indicate when they have the robot's attention.
RB: Il sourit. Elle imite le sourire. Cela se produit constamment. Ceux-ci sont de simples sujets. Ici nous leur avons demandé d'attirer l'attention du robot et d'indiquer quand ils l'avaient captée.
Voice: Hey, Kismet, ah, there it is.
Voix: Hey, Kismet, ah le voilà.
RB: So she realizes she has the robot's attention. Voice: Kismet, do you like the toy? Oh.
RB: Alors elle se rend compte que l'attention du robot est portée sur elle. Voix: Kismet, aimes-tu le jouet? Oh.
RB: Now, here they're asked to prohibit the robot, and this first woman really pushes the robot into an emotional corner.
RB: Maintenant, voilà qu'on leur demande de prohiber le robot, et cette première femme pousse vraiment le robot dans une impasse émotionnelle .
Voice: No. No. You're not to do that. No. (Laughter)
Voix: Non. Non. Tu ne dois pas faire ça. Non. (Rires)
Not appropriate. No. No. (Laughter)
Voix: Ce n'est pas approprié. Non. Non. (Rires)
RB: I'm going to leave it at that.
RB: Je vais en rester là.
We put that together. Then we put in turn taking. When we talk to someone, we talk. Then we sort of raise our eyebrows, move our eyes, give the other person the idea it's their turn to talk. And then they talk, and then we pass the baton back and forth between each other. So we put this in the robot. We got a bunch of naive subjects in, we didn't tell them anything about the robot, sat them down in front of the robot and said, talk to the robot. Now what they didn't know was, the robot wasn't understanding a word they said, and that the robot wasn't speaking English. It was just saying random English phonemes. And I want you to watch carefully, at the beginning of this, where this person, Ritchie, who happened to talk to the robot for 25 minutes -- (Laughter) -- says, "I want to show you something. I want to show you my watch." And he brings the watch center, into the robot's field of vision, points to it, gives it a motion cue, and the robot looks at the watch quite successfully. We don't know whether he understood or not that the robot -- Notice the turn-taking. Ritchie: OK, I want to show you something. OK, this is a watch that my girlfriend gave me. Robot: Oh, cool. Ritchie: Yeah, look, it's got a little blue light in it too. I almost lost it this week. (Laughter) RB: So it's making eye contact with him, following his eyes. Ritchie: Can you do the same thing? Robot: Yeah, sure. RB: And they successfully have that sort of communication.
On met ça en place. Et puis on met en place le tour de rôle. Quand nous parlons avec quelqu'un, nous parlons. Alors, on lève les sourcils, on bouge nos yeux, on donne à l'autre personne un signe pour lui dire que c'est à son tour de parler. Et alors, elle se met à parler, et après on se passe le bâton. Alors on intègre ça dans le robot. On a fait entrer quelques simples cobayes, on ne leur a rien dit à propos du robot, on les a fait asseoir en face du robot et dit, parlez au robot. Alors maintenant, ce qu'ils ne savaient pas était, que le robot ne comprenait pas un mot de ce qu'ils disaient, et que le robot ne parlait pas anglais. Il ne disait que des phonèmes anglais de manière aléatoire. Et je veux que vous regardiez bien attentivement, au début, le moment où cette personne, Ritchie, qui venait de parler pendant 25 minutes au robot -- (Rires) -- dit, "J'aimerais te montrer quelque chose. J'aimerais te montrer ma montre". Et il amène la montre au centre, dans le champ de vision du robot, il la montre au robot, lui donne un signal émotionnel, et le robot regarde la montre assez efficacement. Nous ne savons pas si il comprenait ou non que le robot -- Remarquez le passage de tour. Ritchie: OK, je veux vous montrer quelque chose. OK, ceci est une montre que ma petite amie ma donné. Robot: Oh, cool. Ritchie: Oui, regarde, il y a aussi une petite lumière bleue. J'ai presque failli la perdre cette semaine. (Rires) RB: Il garde le contact visuel avec lui, suivant ses yeux. Ritchie: Peux-tu faire la même chose? Robot: Oui, bien sur. RB: Et ils réussient à avoir cette communication efficace.
And here's another aspect of the sorts of things that Chris and I were doing. This is another robot, Cog. They first make eye contact, and then, when Christie looks over at this toy, the robot estimates her gaze direction and looks at the same thing that she's looking at. (Laughter) So we're going to see more and more of this sort of robot over the next few years in labs. But then the big questions, two big questions that people ask me are: if we make these robots more and more human-like, will we accept them, will we -- will they need rights eventually? And the other question people ask me is, will they want to take over? (Laughter) And on the first -- you know, this has been a very Hollywood theme with lots of movies. You probably recognize these characters here -- where in each of these cases, the robots want more respect. Well, do you ever need to give robots respect? They're just machines, after all. But I think, you know, we have to accept that we are just machines. After all, that's certainly what modern molecular biology says about us. You don't see a description of how, you know, Molecule A, you know, comes up and docks with this other molecule. And it's moving forward, you know, propelled by various charges, and then the soul steps in and tweaks those molecules so that they connect. It's all mechanistic. We are mechanism. If we are machines, then in principle at least, we should be able to build machines out of other stuff, which are just as alive as we are. But I think for us to admit that, we have to give up on our special-ness, in a certain way. And we've had the retreat from special-ness under the barrage of science and technology many times over the last few hundred years, at least. 500 years ago we had to give up the idea that we are the center of the universe when the earth started to go around the sun; 150 years ago, with Darwin, we had to give up the idea we were different from animals. And to imagine -- you know, it's always hard for us. Recently we've been battered with the idea that maybe we didn't even have our own creation event, here on earth, which people didn't like much. And then the human genome said, maybe we only have 35,000 genes. And that was really -- people didn't like that, we've got more genes than that. We don't like to give up our special-ness, so, you know, having the idea that robots could really have emotions, or that robots could be living creatures -- I think is going to be hard for us to accept. But we're going to come to accept it over the next 50 years or so.
Et voici un autre aspect du type de choses que Chris et moi faisions. Voici un autre robot, Cog. Ils ont établi un premier contact visuel, et après, quand Christie regarde son jouet, le robot estime la direction de son regard et regarde la même chose qu'elle regarde. (Rires) Nous allons voir de plus en plus de ce genre de robot dans les laboratoires dans les années à venir. Mais alors, les grandes questions, deux grandes questions que les gens me posent sont: si on rend ces robots de plus en plus humains, allons-nous les accepter, allons-nous -- auront-ils besoin de droits en fin de compte? Et l'autre question que les gens me posent est, vont-ils prendre le pouvoir? (Rires) Et au début -- vous savez, ça a été un grand thème à Hollywood avec de nombreux films. Vous reconnaissez probablement ces personnages -- où dans chacun de ces cas, les robots veulent plus de respect. Et bien, avez-vous jamais besoin de donner du respect aux robots? Après tout, ce ne sont que des machines. Mais je pense, vous savez, nous devons accepter le fait que nous ne sommes que des machines. Après tout, c'est surement ce que dit la biologie moléculaire à propos de nous. Vous ne voyez pas de description de comment, la molécule A vient par là et s'amarre avec cette autre molécule. Et ça avance, propulsé par différentes charges, et alors l'âme entre en jeu et vient tirer ces molécules pour qu'elles se connectent. Tout cela est mécanique, nous sommes des mécanismes. Si nous sommes des machines, alors en principe du moins, nous devrions être capable de construire des machines avec d'autres trucs, qui sont au moins aussi vivant que nous le sommes. Mais je pense que pour que nous admettions cela, nous devons abandonner notre caractère spécial, d'une certaine façon. Et nous avons à de nombreuses reprises perdu contact avec cette spécificité sous les assauts de la science et de la technologie durant les cent dernières années, au moins. Il y a 500 ans, nous avons dû abandonner l'idée selon laquelle nous étions le centre de l'univers quand la terre commenca à tourner autour du soleil; il y a 150 ans, avec Darwin, nous avons dû abandonner l'idée selon laquelle nous étions différents des animaux. Et pour imaginer -- , c'est toujours difficile pour nous. Vous voyez, récemment nous avons été matraqué par l'idée que peut être nous n'avions même pas eu notre propre acte de création, ici sur Terre, ce que les gens n'aimaient pas beaucoup. Et puis le génome humain a dit, peut-être n'avons-nous seulement que 35,000 gènes. Et ce fut vraiment -- les gens n'aimaient pas ça, nous avons plus de gènes que ça. Nous n'aimons pas abandonner notre spécificité, alors l'idée que les robots puissent ressentir des émotions, ou que les robots puissent être des créatures vivantes -- je pense que ça va être dur pour nous de l'accepter. Mais nous finirons bien par l'accepter au cours des 50 prochaines années.
And the second question is, will the machines want to take over? And here the standard scenario is that we create these things, they grow, we nurture them, they learn a lot from us, and then they start to decide that we're pretty boring, slow. They want to take over from us. And for those of you that have teenagers, you know what that's like. (Laughter) But Hollywood extends it to the robots. And the question is, you know, will someone accidentally build a robot that takes over from us? And that's sort of like this lone guy in the backyard, you know -- "I accidentally built a 747." I don't think that's going to happen. And I don't think -- (Laughter) -- I don't think we're going to deliberately build robots that we're uncomfortable with. We'll -- you know, they're not going to have a super bad robot. Before that has to come to be a mildly bad robot, and before that a not so bad robot. (Laughter) And we're just not going to let it go that way. (Laughter) So, I think I'm going to leave it at that: the robots are coming, we don't have too much to worry about, it's going to be a lot of fun, and I hope you all enjoy the journey over the next 50 years. (Applause)
Et la seconde question est, les machines veulent-elles prendre le pouvoir? Et pour cela, le scénario classique est que nous créons ces choses, elles se développent, on les élève, elles apprennent beaucoup grâce à nous, et alors elles commencent à décider que nous sommes trop ennuyeux, lents. Elles veulent nous prendre le pouvoir. Et pour ceux d'entre vous qui sont parents d'adolescents, vous savez ce que c'est. (Rires) Mais Hollywood l'élargit aux robots. Et la question est, quelqu'un va-t-il construire accidentellement un robot qui nous prendra le pouvoir? Et c'est un peu l'histoire du mec solidaire au fond de son jardin, et, "J'ai accidentellement construit un 747." Vous voyez, je ne pense que ça va se produire. Et je ne pense pas -- (Rires) -- Je ne pense pas que nous allons construire sans faire exprès des robots avec lesquels nous ne serions pas à l'aise. Nous allons -- vous savez, on n'aura pas un robot très méchant. Avant ça, un robot moyennement méchant devra faire son apparition, et encore avant lui, un robot pas si méchant que ça. (Rires) Et nous n'allons pas laisser les choses se passer de cette façon. (Rires) Alors, je pense que je vais conclure là dessus: les robots arrivent, nous n'avons pas tellement d'inquiètudes à avoir, ça va être très marrant, et j'espère que vous allez tous apprécier le voyage pendant ces 50 prochaines années. (Applaudissements)