I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Je pensais commencer par une scène de guerre. Il n'y avait pas grand' chose pour avertir du danger à venir. L'insurgé irakien avait placé l'engin explosif, un engin explosif improvisé, sur le côté de la route avec beaucoup de soin. En 2006, il y a eu plus de 2 500 de ces attaques chaque mois, et ils étaient la principale cause de victimes parmi les soldats américains et les civils irakiens. L'équipe qui chasse ces explosifs s'appelle une équipe EOD - Equipe de neutralisation d'explosifs et ils sont le fer de lance de effort américain pour supprimer ces bombes artisanales. Chaque équipe EOD sort sur environ 600 de ces alertes à la bombe chaque année, et désamorce environ deux bombes par jour. Peut-être le meilleur signe de l'importance qu'elles ont pour l'effort de guerre, c'est que les insurgés irakiens ont mis une prime de 50 000 $ sur la tête d'un seul soldat EOD.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Malheureusement, cet appel particulier a mal fini. Au moment où le soldat s'est avancé assez près pour voir les fils révélateurs de la bombe, elle a explosé dans une vague de flammes. Maintenant, en fonction de votre proximité et de la quantité d'explosif qui a été emballée dans cette bombe, elle peut tuer ou blesser. Vous devez être à 50 mètres au mois pour y échapper. L'explosion est si forte qu'elle peut même briser vos membres, même si vous n'êtes pas touché. Ce soldat était au-dessus de la bombe.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Et donc quand le reste de l'équipe s"est avancé ils n'ont pas trouvé grand' chose. Et cette nuit-là le commandant de l'unité a rempli un triste devoir, il a écrit une lettre de condoléances aux États-Unis, et il a dit à quel point cette perte avait affecté son unité, comme ils avaient perdu leur soldat le plus courageux, un soldat qui avait sauvé leurs vies plus d'une fois. Puis il s'est excusé de ne pas être en mesure de le ramener à la maison. Mais alors il a parlé de ce qu'il y avait de bon dans cette perte. "Au moins," comme il l'écrit, «quand un robot meurt, vous n'avez pas à écrire une lettre à sa mère."
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Cette scène ressemble à de la science-fiction, mais c'est déjà une réalité sur le champ de bataille. Le soldat, dans ce cas était un robot de 21 kilos appelé PackBot. La lettre du chef était adressée non pas à une ferme dans l'Iowa comme on le voit dans les vieux films de guerre, mais à la Société iRobot, qui tire son nom du roman d'Asimov et du film pas si bon de Will Smith, et ... euh ... (Rires) ... si vous vous souvenez que dans ce monde de fiction, les robots ont commencé par effectuer des tâches ordinaires, puis ils ont commencé à prendre des décisions de vie ou de mort. C'est une réalité que nous connaissons aujourd'hui.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Ce que nous allons faire est en fait juste afficher rapidement une série de photos derrière moi, qui vous montrent la réalité des robots utilisés dans la guerre en ce moment ou qui sont déjà au stade du prototype. C'est juste pour vous en donner une idée. Autrement dit, vous ne verrez rien de propulsé par une technologie vulcaine ou des hormones de sorciers adolescents ou des choses de ce genre. Tout cela est vrai. Alors, pourquoi ne pas commencer et lancer ces images?
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Quelque chose de grand se passe à la guerre aujourd'hui, et peut-être même dans l'histoire de l'humanité elle-même. L'armée américaine est allée en Irak avec une poignée de drones dans le ciel. Nous en avons maintenant 5300. Nous sommes allés avec zéro système terrestre sans pilote. Nous en avons maintenant 12000. Et le terme technique "application qui tue" prend une nouvelle signification dans cet espace.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Nous devons nous rappeler que nous parlons de la Ford Modèle T, des avions des frères Wright, comparé à ce qui se profile. C'est là que nous en sommes à l'heure actuelle. Une des personnes que j'ai rencontrée récemment avec était un général trois étoiles de l'Armée de l'air, et il a dit en gros que nous allions très bientôt avoir des dizaines de milliers de robots opérant dans nos conflits, et ces chiffres avaient de l'importance parce que nous parlons non seulement de dizaines de milliers de robots aujourd'hui, mais de dizaines de milliers de ces prototypes et ces robots de demain, parce que bien entendu, l'une des choses qui est à l’œuvre en technologie est la loi de Moore : vous pouvez incorporer de plus en plus de puissance de calcul dans ces robots, et ainsi si on regarde environ 25 ans dans le futur, si la loi de Moore s'avère exacte, ces robots feront des calculs près d'un milliard de fois plus puissants qu'aujourd'hui.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Ça signifie que le genre de choses que nous ne faisions que parler dans les conventions de science-fiction comme la Comic-Con doivent être discutées dans les allées du pouvoir et des endroits comme le Pentagone. Une révolution des robots est à nos portes.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Maintenant, je dois être clair. Je ne parle pas d'une révolution où vous devez craindre que le gouverneur de Californie se pointe à votre porte, à la Terminator. (Rires)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Lorsque les historiens se pencheront sur cette époque, ils concluront que nous sommes dans un autre type de révolution : une révolution de la guerre, comme l'invention de la bombe atomique. Mais c'est peut être encore plus que cela, parce que nos systèmes sans pilote ne se contentent pas
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
d'affecter le «comment» du combat de guerre. ils affectent le «qui» du combat à son niveau le plus fondamental. C'est-à-dire, chaque révolution précédente à la guerre, qu'il s'agisse de la mitrailleuse, qu'il s'agisse de la bombe atomique, reposait sur un système qui soit tirait plus vite, soit allait plus loin, soit produisait une plus grande explosion. C'est certainement le cas avec la robotique, mais ça change également ce qui vit le combattant et même son identité.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Autrement dit, le monopole que l'humanité a depuis 5000 ans dans les combats de guerre se brise de notre vivant même. J'ai passé ces dernières années à aller à la rencontre de tous les acteurs de ce domaine, des scientifiques qui conçoivent les robots aux auteurs de science fiction qui les ont inspirés, en passant par les pilotes de drones de 19 ans du Nevada qui se battent, aux généraux quatre étoiles qui les commandent, aux insurgés irakiens même qu'ils visent et ce qu'ils pensent de nos systèmes, et ce que j'ai trouvé intéressant, c'est non seulement leurs histoires, mais la façon dont leurs expériences pointent vers ces effets secondaires qui se propagent dans notre société, dans nos lois et notre éthique, etc Je voudrais utiliser le temps qu'il me reste à essentiellement étoffer un ou deux de ces points.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Le premier est que l'avenir de la guerre, même s'il est robotique, ne sera pas purement américain. Les États-Unis sont actuellement en avance dans le domaine militaire robotique en ce moment, mais nous savons qu'avec la technologie, il n'y a pas d'avance ou d'avantage permanent. Levez la main pour répondre, combien de gens dans cette salle utilisent encore des ordinateurs Wang? (Rires) C'est la même chose pour la guerre. Les Britanniques et les les Français ont inventé le blindé. Les Allemands ont compris comment bien s'en servir, et donc ce à quoi nous devons penser aux États-Unis est que nous sommes en avance en ce moment, mais vous avez 43 autres pays ici-bas qui travaillent sur la robotique militaire, et, parmi eux tous les pays intéressants, comme la Russie, la Chine, le Pakistan, l'Iran.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Cela me pose un gros souci. Comment pouvons-nous aller de l'avant dans cette révolution étant donné l'état de nos usines et l'état de nos sciences et des de l'enseignement des mathématiques dans nos écoles? Ou une autre façon de voir ça, qu'est-ce que cela signifie d'aller de plus en plus à la guerre avec des soldats dont le matériel est fabriqué en Chine et le logiciel écrit en Inde?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Mais, tout comme les logiciels sont devenus open-source, il en va de même pour la guerre. Contrairement à un porte-avions ou une bombe atomique, vous n'avez pas besoin d'un système de fabrication massive pour construire de la robotique. Une bonne partie est en vente libre. Une bonne partie est même en kit à monter soi-même. Une des choses qui vient de vous être projetée était un drone corbeau, celui qu'on lançait à la main. Pour environ un millier de dollars, vous pouvez en construire un vous-même, ce qui équivaut à ce que les soldats utilisent en Irak.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Cela soulève une autre petite question quand il s'agit de guerre et de conflit. Les gentils s'amusent à travailler sur ces trucs comme des kits de bricolage, mais les méchants aussi. Ce croisement entre la robotique et des choses comme le terrorisme va être fascinant et même inquiétant, nous en avons déjà vu le début.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Pendant la guerre entre Israël, un état, et le Hezbollah, un acteur non-étatique, l'acteur non-étatique a fait voler quatre drones différents contre Israël. Il y a déjà un site web djihadiste sur lequel vous pouvez aller et à distance détoner un engin explosif improvisé en Irak tout en étant sur votre ordinateur domestique.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Je pense donc que nous allons voir deux tendances qui vont s'installer. La première, vous allez renforcer le pouvoir des individus contre les gouvernements, mais la seconde est que nous allons voir une expansion dans le domaine du terrorisme. L'avenir de celui-ci peut être un croisement entre Al-Qaïda 2.0 et la prochaine génération d'Unabomber. Une autre façon de voir ça, est le fait que, rappelez-vous, vous n'avez pas à convaincre un robot qu'il va recevoir 72 vierges après sa mort pour le convaincre de se faire exploser.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Mais les répercussions vont pénétrer notre politique. Une des personnes que j'ai rencontrée était un ancien secrétaire adjoint du Ministère de la Défense de Ronald Reagan, et il l'a dit de la façon suivante : «J'aime ces systèmes, car ils sauvent des vies américaines, mais je m'inquiète plus de la marchandisation des guerres, plus des discours qui créent le choc et la peur, pour défrayer la discussion des coûts. Les gens sont plus enclins à soutenir l'utilisation de la force s'ils l'envisagent comme ne coûtant rien."
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Les robots pour moi prennent certaines tendances qui sont déjà en jeu dans notre corps politique, et les amènent peut-être à leur point final logique. Nous n'avons pas de projet. Nous ne faisons plus de déclarations de guerre. Nous n'achetons plus d'emprunts de guerre. Maintenant nous avons le fait que nous convertissons de plus en plus de nos soldats américains que nous envoyons se battre dans des machines, et nous pouvons peut-être prendre ces barres qui baissent déjà à la guerre et les déposer sur le sol.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Mais l'avenir de la guerre va également être une guerre YouTube. En clair, nos nouvelles technologies ne se contentent pas de soustraire les humains au risque. Elles enregistrent aussi tout ce qu'ils voient. Donc, elles ne se contentent pas d'éloigner le public : elles remodèlent sa relation avec la guerre. Il y a déjà plusieurs milliers de de clips vidéo de séquences de combat en Irak sur YouTube en ce moment. la plupart recueillies par des drones.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Cela pourrait être une bonne chose. Ça pourrait établir des liens entre le front intérieur et le front de guerre comme jamais auparavant. Mais rappelez-vous, ça se passe dans notre monde étrange et bizarre, et donc inévitablement la possibilité de télécharger ces clips vidéo sur votre iPod ou votre Zune vous donne la capacité de le transformer en divertissement.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Les soldats ont un nom pour ces clips. Ils appellent ça du porno-guerre. Un exemple type qu'on m'a envoyé était un e-mail avec en pièce jointe une vidéo d'une attaque Predator éliminant un site ennemi. Des frappes de missiles, des corps détruits par l'explosion. Il a été mis en musique. au son d'une chanson pop, "I Just Want To Fly" par Sugar Ray.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Cette capacité à regarder plus mais à vivre moins crée un remous dans la relation du public avec la guerre. J'y pense en faisant un parallèle avec le sport. C'est comme la différence entre regarder un match de NBA, un match de basket professionnel à la télévision, où les athlètes sont des silhouettes minuscules sur l'écran, et se trouver en personne à un match de basket et se rendre compte de ce à quoi quelqu'un qui mesure 2,10 mètres ressemble vraiment.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Mais nous devons nous rappeler, ce ne sont que les clips. Ce ne sont que la version du jeu de la chaîne ESPN. Ils perdent le contexte. Ils perdent la stratégie. Ils perdent l'humanité. La guerre se réduit à des paniers marqués et des bombes intelligentes.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
Et l'ironie de tout cela, c'est que, alors que l'avenir de la guerre peut impliquer de plus en plus de machines, c'est notre psychologie humaine qui est le moteur tout cela, ce sont nos faiblesses humaines qui mènent à ces guerres.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Donc, un exemple qui a un grand écho dans le domaine politique en est comment cela joue sur notre guerre des idées bien réelle que nous menons contre les groupes radicaux. Quel est le message que nous pensons envoyer avec ces machines par rapport à ce qui est reçu en termes du message.
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
L'une des personnes que j'ai rencontrées était un représentant haut gradé de l'administration Bush, qui a eu ceci à dire quant à impliquer moins de nos hommes dans la guerre. "Ça joue en notre force. La seule chose qui effraie les gens est notre technologie." Mais quand vous allez à la rencontre des gens, par exemple au Liban, c'est une toute autre histoire. L'une des personnes que j'ai rencontrée là-bas était rédacteur en chef, et nous parlons alors qu'un drone vole au dessus de lui, et voilà ce qu'il avait à dire. "Ce n'est qu'un signe de plus de la cruauté insensible des Israéliens et des Américains, qui sont des lâches parce qu'ils envoient des machines pour nous combattre. Ils ne veulent pas nous combattre comme de vrais hommes, mais ils ont peur de se battre, donc nous n'avons qu'à tuer quelques-uns de leurs soldats pour les vaincre."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
L'avenir de la guerre se fait aussi avec un nouveau type de guerrier, et il redéfinit effectivement ce que l'on vit en allant à la guerre. Vous pouvez appeler cela une cellule guerrière. C'est ainsi qu'un pilote de drone Predator a décrit son expérience des combats dans la guerre en Irak sans jamais quitter le Nevada. «Tu vas à la guerre pendant 12 heures, tu tires avec des armes sur des cibles, tu tues des ennemis, puis tu montes dans ta voiture et tu rentres chez toi et en moins de 20 minutes, tu es assis à table pour diner et tu parles à tes enfants de leurs devoirs."
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
L'équilibre psychologique de ces expériences est incroyablement difficile, et en fait les pilotes de drones ont des taux plus élevés de stress post-traumatique que de bien des unités physiquement présentes en Irak. Mais certains craignent que cette déconnexion mène à quelque chose d'autre, qu'elle pourrait rendre la contemplation des crimes de guerre beaucoup plus facile quand vous avez cette distance. "C'est comme un jeu vidéo," est ce qu'un jeune pilote m'a décrit en parlant de descendre des soldats ennemis à distance. Comme tous ceux qui ont joué à Grand Theft Auto le savent, nous faisons des choses dans le monde virtuel que nous ne ferions pas face à face.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Donc, une grande partie de ce que vous m'entendez dire, c'est qu'il y a un autre aspect aux révolutions technologiques, et qu'il façonne notre présent et peut-être façonnera notre avenir de la guerre. La loi de Moore est opérationnelle, mais la loi de Murphy l'est aussi. Le brouillard de la guerre n'est pas levé. L'ennemi a un vote.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Nous gagnons de nouvelles capacités incroyables, mais nous voyons aussi et nous vivons de nouveaux dilemmes humains. Maintenant, parfois ce ne sont que des moments de gaffes, et c'est ce que le chef d'une entreprise de robotique a décrit, il vous suffit de moments de gaffes. Que sont des moments de gaffes pour des robots dans la guerre? Eh bien, parfois ils sont drôles. Parfois, ils sont comme si cette scène du film d'Eddie Murphy "Best Defense", se jouait dans la réalité, où on a testé un robot mitrailleur, et pendant la démonstration, il a commencé à tourner en cercle et a pointé sa mitrailleuse vers la tribune des VIP. Heureusement l'arme n'était pas chargée et personne n'a été blessé, mais d'autres fois les moments de gaffes sont tragiques, comme l'année dernière en Afrique du Sud, où un canon anti-aérien a eu une "panne de logiciel," et en fait ne s'est pas allumé et a tiré, et neuf soldats ont été tués.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Nous avons de nouveaux remous dans les lois de la guerre et la responsabilisation. Que faisons-nous avec des choses comme le massacre sans pilote? Qu'est-ce que le massacre sans pilote? Nous avons déjà eu trois cas de drones Predator qui frappent où nous pensions avoir Ben Laden, et il s'est avéré que ce n'était pas le cas. Voilà où nous en sommes à l'heure actuelle. On ne parle même pas de systèmes autonomes avec plein pouvoir de recourir à la force. Et ne croyez pas que ce n'est pas ce qui se profile. Au cours de mes recherches je suis tombé sur quatre différents projets du Pentagone sur les différents aspects de ces systèmes.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Et alors la question se pose : à quoi est-ce que ça amène aux questions telles que les crimes de guerre? Les robots n'ont pas d'émotion, de sorte qu'ils ne sont pas bouleversés si leur copain est tué. Ils ne commettent pas de crimes de rage et de vengeance. Mais les robots n'ont pas d'émotion. Ils voient une grand-mère de 80 ans dans un fauteuil roulant de la même façon qu'ils voient un char T-80 : les deux ne sont qu'une série de zéros et de uns. Et nous avons donc cette question à résoudre : comment pouvons-nous faire pour que nos lois de guerre du 20e siècle qui sont si vieilles à présent qu'elles seraient éligibles à l'assurance-maladie, rattrapent ces technologies du 21e siècle.
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Et donc, en conclusion, je vous ai parlé ce qui semble l'avenir de la guerre, mais remarquez que je n'ai utilisé que des exemples du monde réel et vous n'avez vu que des images du monde réel et des vidéos. Et si cela pose un grand problème dont nous tous devons nous soucier bien avant que vous ayez à vous soucier que votre robot aspirateur vous tue par aspiration. Allons-nous laisser le fait que ce qui se dévoile en ce moment dans la guerre ressemble à de la science-fiction et donc nous maintient dans le déni? Allons-nous faire face à la réalité de la guerre du 21e siècle? Est-ce notre génération va faire la même erreur qu'une génération passée a faite avec les armes atomiques, et ne pas faire face aux questions qui l'entourent jusqu'à ce la boîte de Pandore soit déjà ouverte?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Maintenant, je peux me tromper sur ce point, et un chercheur en robotique du Pentagone m'a dit c'était le cas. Il a dit, "Il n'y a pas de vraies questions sociales, éthiques, morales quand il s'agit de robots." "C'est-à-dire," a-t-il ajouté, à moins que la machine tue les mauvaises personnes à plusieurs reprises. Alors, c'est juste une question de rappel de produit."
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Et donc le point final ici est qu'en réalité, nous pouvons nous tourner vers Hollywood. Il y a quelques années, Hollywood a réuni tous les personnages les plus populaires et créé une liste des 100 plus grands héros et les 100 meilleurs méchants de toute l'histoire de Hollywood, les personnages qui représentaient le meilleur et le pire de l'humanité. Un seul personnage a figuré sur les deux listes: Le Terminator, un robot tueur. Cela souligne le fait que nos machines peuvent être utilisées à la fois pour le bien et le mal, mais pour moi elle souligne le fait qu'il y a une dualité des êtres humains aussi.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Cette semaine est une célébration de notre créativité. Notre créativité a emmené notre espèce vers les étoiles. Notre créativité a créé des œuvres d'arts et de la littérature pour exprimer notre amour. Et maintenant, nous utilisons notre créativité dans une certaine direction, pour construire de fantastiques machines avec des capacités incroyables, peut-être même un jour une toute nouvelle espèce. Mais l'une des principales raisons pour laquelle nous le faisons, c'est à cause de notre instinct à nous détruire les uns les autres, d'où la question que nous devrions tous nous poser : est-ce nos machines, ou est-ce nous qui est câblé pour la guerre?
Thank you. (Applause)
Merci! (Applaudissements)