Ich dachte, ich beginne mit einer Kriegsszene. Es gab wenige Anzeichen auf die kommende Gefahr. Die aufständischen Iraki hatten die IED, eine improvisierte Sprengfalle, sehr sorgfältig am Straßenrand versteckt. Ab 2006 gab es jeden Monat mehr als 2500 dieser Angriffe, und sie waren die Hauptursache der Verluste unter amerikanischen Soldaten und irakischen Zivilisten.
I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians.
Das Team, das dieses IED aufspürte, nennt man ein EOD Team -- Sprengstoffentsorgungskommando -- und sie sind die Speerspitze der amerikanischen Anstrengungen diese Bomben am Straßenrand zu unterbinden. Jedes EOD Team hat an die 600 dieser Bombeneinsätze jedes Jahr, mit zwei Entschärfungen pro Tag. Vielleicht der beste Hinweis auf ihren Wert für den Kriegseinsatz, ist, dass die irakischen Aufständischen ein Kopfgeld von 50.000$ für jeden einzelnen EOD Soldaten ausgesetzt hatten.
The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Unglücklicherweise hat dieser spezielle Einsatz nicht gut geendet. Als der Soldat nah genug war um die verräterischen Kabel an der Bombe zu sehen explodierte sie in einer Flammenwolke. Nun, abhängig davon, wie nah man dran ist und wie viel Sprengstoff in der Bombe ist, kann sie tödlich sein, oder verwunden. Man muss mindestens 50 m entfernt sein, um dem zu entgehen. Die Druckwelle ist so stark, dass sie Knochen brechen kann, selbst wenn man nicht direkt getroffen wird. Dieser Soldat war direkt über der Bombe.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Und als der Rest des Teams nachrückte, war nicht mehr viel übrig. Und in dieser Nacht hatte der Kommandeur die traurige Pflicht einen Beileidsbrief in die Vereinigten Staaten zu schreiben. Er sprach davon, wie groß der Verlust für die Einheit war, und dass sie ihren mutigsten Soldaten verloren hätten. Einen Soldaten, der ihr Leben viele Male gerettet hat. Und er entschuldigte sich dafür, dass er ihn nicht nach Hause bringen konnte. Aber dann sprach er von der guten Seite, die er dem Verlust abgewinnen konnte. "Wenigstens", schrieb er, " muss man nach dem Verlust eines Roboters keinen Brief an seine Mutter schicken".
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Diese Geschichte klingt nach Science Fiction, aber auf dem Schlachtfeld ist sie schon Realität. Der Soldat war in diesem Fall ein 20 Kg schwerer Roboter namens PackBot. Der Brief ging nicht an irgendeinen Bauernhof in Iowa, wie man das in alten Kriegsfilmen sieht, sondern an die iRobot Company, die nach dem Roman von Asimov benannt wurde und dem nicht so tollen Film mit Will Smith und.. ähm.. (Gelächter) wenn Sie sich daran erinnern, dass in der Geschichte die Roboter zuerst niedrige Dienste verrichteten, und später fällten sie Entscheidungen über Leben und Tod. Das ist heute eine Realität.
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Es werden jetzt hinter mir eine Serie von Photos projiziert, die Ihnen zeigen, wie Roboter derzeit im Krieg eingesetzt werden, oder bereits als Prototyp existieren. Nur um Ihnen eine Vorstellung zu geben. Anders gesagt, Sie werden nichts sehen, das durch Vulkanier Technologie betrieben wird, oder durch Teenage-Zauberer Hormone oder ähnlichem, das ist alles echt. Also, warum beginnen wir nicht mit diesen Bildern?
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Etwas Großes geht heutzutage im Krieg vor sich, vielleicht sogar in der Geschichte der Menschheit selbst. Das U.S. Militär ging in den Irak mit einer Handvoll fliegender Drohnen, jetzt haben wir 5,300. Wir begannen mit Null unbemannten Bodensystemen, jetzt haben wir 12,000. Und der Fachbegriff "Killer Applikation" bekommt hierbei eine neue Bedeutung. Wir müssen uns klarmachen, dass wir vom Modell T Fords sprechen, dem Flugzeug der Gebrüder Wright, im Vergleich zu dem, was bald kommen wird. An diesem Punkt stehen wir gerade.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space. And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now.
Einer der Leute, den ich vor kurzem traf, war ein Air-Force 3-Sterne General,, und er sagte, "Im Wesentlichen sind wir darauf ausgerichtet sehr bald zehntausende Roboter in unseren Konflikten einzusetzen, und diese Zahlen sind von Bedeutung, weil wir nicht nur von Zehntausenden der heutigen Robotern reden, sondern von Zehntausenden dieser Prototypen, und den Robotern von Morgen. Etwas, das in der Technik natürlich gilt, ist Moores Gesetz, nach dem man immer mehr Rechenleistung in diese Roboter stecken kann. Also springen Sie kurz 25 Jahre in die Zukunft. Wenn Moore's Gesetz immer noch gilt, werden diese Roboter eine etwa 1 Milliarde mal stärkere Rechenleistung haben als heute. Und das bedeutet, dass Dinge, von denen wir nur auf Science Fiction Treffen, wie z.B. der Comicon, geredet haben, nun in den Schaltstellen der Macht und an Orten wie dem Pentagon diskutiert werden müssen, Eine Revolution der Roboter steht uns bevor.
One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today. And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Hier muss ich genau sein. Ich rede nicht von einer Revolution, wo Sie sich sorgen müssen, dass der Governeur von Kalifornien als Terminator vor Ihrer Tür steht. (Lachen) Wenn Historiker diese Zeit untersuchen, werden sie finden, dass wir vor einer anderen Art von Revolution stehen, einer Revolution des Kriegs, ähnlich der Erfindung der Atom-Bombe. Es ist vielleicht noch revolutionärer als das, weil unsere unbemannten Systeme nicht nur das "Wie" der kriegerischen Auseinandersetzung beeinflussen, sondern das "wer" Krieg führt, und zwar auf der grundlegensten Ebene. Das heißt, in jeder früheren Revolution den Krieg betreffend, sei es durch das Maschinengewehr oder die Atom-Bombe, ging es um ein System, das entweder schneller feuerte, weiter reichte, stärker Bumm machte. Das gilt sicherlich auch für die Robotik. Aber sie verändert auch die Erfahrung des Kriegers, und sogar die bloße Identität des Kriegers.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter) When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
Anders gesagt, das 5000 Jahre alte Monopol der Menschheit, Kriege zu führen bricht gerade zu unseren Lebzeiten zusammen. Ich habe in den letzten Jahren alle Akteure in diesem Bereich getroffen, von den Robotik Wissenschaftlern zu den Science Fiction Autoren, die sie inspiriert haben, zu den 19-jährigen Drohnenpiloten, die von Nevada aus kämpfen, zu den 4-Stern Generälen, die sie befehligen, sogar zu den irakischen Aufständischen, Aufständischen, die die Ziele sind, und was sie von unseren Systemen halten. Ich habe nicht nur ihre Geschichten interessant gefunden, sondern, wie ihre Erfahrungen die Auswirkungen wiederspiegeln, die sich langsam in unserer Gesellschaft, in unseren Gesetzen, unserer Ethik ausbreiten. Und in der verbleibenden Zeit möchte ich nun ein paar dieser Auswirkungen verdeutlichen.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Die Erste ist, dass die Zukunft des Krieges, selbst eine mit Robotern, keine rein amerikanische sein wird. Die USA ist zur Zeit an der Spitze der militärischen Robotik, aber wir wissen, dass im technischen Bereich der First Mover keinen dauerhaften Vorteil hat. Eine kurze Umfrage: Wieviele Leute hier verwenden noch immer Wang Computer? (Lachen) Im Krieg ist es genauso. Die Briten und Franzosen haben den Panzer erfunden, die Deutschen kamen darauf, wie man ihn am besten einsetzt. Was die USA angeht, sind wir im Moment ganz vorne, aber es gibt noch 43 andere Länder, die an militärischen Robotern arbeiten, und darunter befinden sich all die interessanten Länder wie Russland, China, Pakistan, Iran.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Und das bereitet mir viel größere Sorgen. Wie schreiten wir in dieser Entwicklung voran, gemessen an dem Stand unserer Fertigung, und dem Stand unserer wissenschaftlichen und mathematischen Schulbildung? Eine andere Art darüber nachzudenken ist, zu fragen, was es heißt, zunehmend Soldaten in den Krieg zu schicken, wo die Hardware aus China stammt, und die Software aus Indien? Aber genauso wie sich Software in den Open Source Bereich verlagert hat, ist es der Fall mit der Kriegsführung. Anders als bei Flugzeugträgern oder Atombomben, braucht es kein riesiges Fertigungssystem um Roboter zu bauen, vieles davon kommt fertig aus dem Regal, und manches ist sogar Do-it-yourself. Eines der Bilder, das Sie gerade gesehen haben, zeigte die Raven Drohne. Sie wird von Hand . gestartet. Für circa 1.000 Dollar können Sie sich selbst eine bauen, gleichwertig zu dem, was die Soldaten im Irak verwenden.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India? But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Das macht schon Kopfschmerzen, wenn man an Krieg und Konflikte denkt. Die Guten können herumspielen und so etwas als Hobby herstellen, aber das können die Bösen auch. Diese Kreuzung von Robotik und Dingen wie Terrorismus wird eine beunruhigende Faszination haben. Wir haben bereits gesehen, wie es beginnt. Während des Krieges zwischen Israel, einem Staat, und der Hisbolla, einem nicht-staatlichen Akteur, flog der nicht-staatliche Akteur vier verschiedene Drohnen gegen Israel. Es gibt bereits eine Dschihad Website, über die man aus der Entfernung eine Sprengfalle im Irak explodieren lassen kann, während man zu Hause am Computer sitzt.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start. During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Daher glaube ich, dass wir zwei Trends sehen werden, die damit einhergehen. Erstens wird die Macht des Einzelnen gegenüber den Regierungen gestärkt. Zweitens werden wir eine Expansion im terroristischen Bereich sehen. Die Zukunft könnte eine Kreuzung zwischen El Kaida 2.0 und der nächsten Generation des Una Bombers sein. Zudem müssen Sie bedenken, dass Sie einen Roboter nicht überzeugen müssen, dass er im Paradies 72 Jungfrauen bekommt, damit er sich selbst in die Luft sprengt.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Aber die daraus resultierenden Auswirkungen werden in unsere Politik dringen. Unter anderem habe ich mit einem ehemaligen stellvertretender Verteidigungsminister unter Ronald Regans gesprochen. Und er drückte es so aus: "Ich mag diese Systeme, weil sie das Leben von Amerikanern retten, aber ich bin besorgt über die zunehmende Vermarktlichung der Kriege, mehr "Schrecken und Ehrfurcht" Reden um für eine Übernahme der Kosten zu sorgen. Die Menschen unterstützen den Einsatz von Gewalt eher, wenn sie denken, dass es nichts kostet." Für mich folgen Roboter gewissen Trends, die bereits in unserem Gemeinwesen eine Rolle spielen, und führen sie vielleicht zur ihrem logischen Ende. Wir haben keine Einberufung. Wir haben keine Kriegserklärungen mehr. Wir kaufen keinen Kriegsanleihen mehr. Und jetzt kommt dazu, dass wir immer mehr unserer amerikanischen Soldaten, die wir in Gefahr bringen würden durch Maschinen ersetzen, und so könnten wir diese bereits schwindenen Barrieren gegen den Krieg bald ganz fallen lassen.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless." Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Aber die Zukunft des Krieges wird sich auch auf YouTube abspielen. Unsere neuen Technologien holen die Menschen nicht nur aus der Gefahrenzone, sie zeichnen auch alles auf, was sie sehen. So entkoppeln sie nicht nur die Öffentlichkeit, sie formen ihr Verhältnis zum Krieg überhaupt um. Es gibt bereits jetzt viele tausend Video-Clips von Kampfszenen aus dem Irak auf Youtube, die meisten wurden von Drohnen gefilmt. Nun könnte dies eine gute Sache sein, es könnte wie nie zuvor Verbindungen zwischen der Heimat- und der Kriegsfront herstellen. Aber bedenken Sie, dass das in unsere , eigenartigen schrägen Welt stattfindet. Und die Möglichkeit diese Videos auf Ihren Ipod oder Zune herunterzuladen, erlaubt es Ihnen unweigerlich, sie zu Unterhaltung zu machen. Soldaten haben eine Bezeichnung für diese Clips, sie nennen sie Kriegspornos. Ein typisches Beispiel dafür habe ich als Email bekommen, im Anhang ein Video von einem Drohnen Angriff, der einen feindlichen Stützpunkt zerstörte, Raketentreffer, Körper, die durch die Explosion in der Luft zerrissen wurden. Es war mit Musik untermalt, es war von einem Popsong untemalt, "ich möchte einfach nur fliegen" von Sugar Ray.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones. Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment. Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Die Möglichkeit mehr anzusehen, aber weniger zu erfahren, erzeugt ein Missverhältnis in der Beziehung der Öffentlichkeit zum Krieg. Ich möchte dazu einen Vergleich aus dem Sport bringen. Es ist wie der Unterschied zwischen, ein professionelles Basketball Spiel im Fernsehen zu sehen, wo die Sportler winzige Figuren auf dem Bildschirm sind, und wirklich zu diesem Spiel hinzugehen und zu erleben, wie jemand mit 2,10 Meter wirklich aussieht. Aber wir müssen uns klarmachen, es sind nur Videos, es ist nur die ESPN Sports Center Version des Spiels.Der Kontext geht verloren, die Strategie geht verloren, so wie die Menschlichkeit, der Krieg wird zu Slam Dunks und intelligenten Bomben.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like. But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Während in der Zukunft des Krieges vermehrt Maschinen eingesetzt werden mögen, ist es ironischerweise unsere menschliche Psyche, die all das hervorbringt. Es sind unsere menschlichen Schwächen, die zu diesen Kriegen führen. Ein Beispiel dafür, das große Resonanz im politischen Bereich hat, ist, wie es sich in unserem sehr realen Krieg der Überzeugungen manifestiert, den wir gegen radikale Gruppierungen führen. Welche Botschaft glauben wir mit diesen Maschinen zu übermitteln, und wie wird diese Botschaft im Gegenzug von der anderen Seite empfangen. Ich habe einen führender Beamten der Bush Regierung getroffen, der Folgendes über unsere Entpersonalisierung des Krieges sagte: Zitat: "Es trägt zu unserer Stärke bei. Was die Menschen erschreckt, ist unsere Technologie."
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars. So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message. So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology."
aber wenn Sie hinausgehen und sich mit Leuten treffen, z.B. im Libanon, ist das eine ganz andere Geschichte. Dort traf ich einen Zeitungsherausgeber. Während unseres Gesprächs flog ein Drohne über ihm. Er hat Folgendes dazu gesagt: Das ist nur ein weiteres Beispeil für die kaltherzigen, grausamen Israelis und Amerikaner, die Feiglinge sind, weil sie Maschinen schicken um uns zu bekämpfen. Sie haben zuviel Angst um mit uns wie echte Männer zu kämpfen. Also müssen wir nur ein paar ihrer Soldaten töten um sie zu besiegen."
But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Die Zukunft des Kriegs bringt auch eine neue Art Krieger hervor. Und definiert dadurch die Erfahrung, in den Krieg zu ziehen, neu. Sie können ihn als Büro-Krieger bezeichnen. Ein Predator-Drohnen Pilot beschrieb seine Erfahrung im Irak Krieg zu kämpfen, ohne dabei je Nevada zu verlassen, wie folgt: "Sie ziehen für 12 Stunden in den Krieg, feuern Waffen auf Ziele ab, um feindliche Kämpfer direkt zu töten, und dann steigen Sie in ihr Auto und fahren nach Hause, und innerhalb von 20 Minuten sitzen Sie beim Abendessen und sprechen mit ihren Kindern über ihre Hausaufgaben."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
Diese Erfahrungen psychisch auszutarieren ist unglaublich schwer. Tatsächlich leiden die Piloten dieser Drohnen in weit höherem Ausmaß an PTBS als viele der Einheiten vor Ort im Irak. Aber einige befürchten, dass diese Entkopplung zu etwas anderem führt, dass Kriegsverbrechen leichter werden wenn die Distanz größer ist. Ein junger Pilot beschrieb es so: "Feindliche Truppen aus der Ferne außer Gefecht zu setzen, ist wie in einem Videospiel.! Wie jeder, der Grand Theft Auto spielte, weiß, machen wir im Videospiel Dinge, die wir bei realen Begegnungen nicht tun.
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Eine meiner Kernaussagen ist, das technologische Revolutionen noch eine andere Seite haben, und diese unsere Gegenwart, und vielleicht auch unsere Zukunft, formt. Das Moore'sche Gesetz gilt, genauso wie Murphy's Gesetz. Der Nebel des Krieges wird nicht gelüftet, der Feind hat eine Stimme, wir erlangen ungeahnte neue Möglichkeiten. Wir sehen und erleben aber auch neue menschliche Dilemma. Manchmal nur in der Form von "oops" Erlebnissen. So hat es der Chef einer Robotik Firma beschrieben, "Sie haben einfach oops-Erlebnisse," Nun, was sind oops-Erlebnisse bei Robotern und Krieg?
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote. We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war?
Manchmal sind sie lustig. Manchmal wird eine Szene, wie aus dem Eddie Murphy Film "Angriff ist die beste Verteidigung" , Wirklichkeit in der ein mit einem Maschinengewehr bewaffneter Roboter sich während einer Testvorführung beginnt im Kreis zu drehen, und sein Maschinengewehr auf die anwesenden VIPs richtet. Glücklicherweise war die Waffe nicht geladen und niemand wurde verletzt. Aber es gibt auch tragische oops-Erlebnisse, wie letztes Jahr in Südafrika, wo eine Luftabwehrgeschütz durch eine, Zitat: "Software Panne" aktiviert wurde und feuerte, und neun Soldaten getötet wurden.
Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Es gibt neue Anforderungen an die Gesetze von Krieg und Verantwortlichkeit. Was tun wir mit so etwas wie einer unbemannten Schlacht? Was ist eine unbemannte Schlacht ? Bereits bei drei mit Predator Drohnen geführten Attacken, dachten wir, wir hätten Bin Laden erwischt, was, wie sich herausstellte, nicht der Fall war. Da stehen wir gerade. Dabei sprechen wir noch nicht einmal über autonome bewaffnete Systeme, die völlig eigenständig Gewalt ausüben, und glauben Sie nicht, dass das nicht bevorsteht. Meine Recherchen führten mich zu 4 verschiedene Pentagon Projekten, die jeweils einen anderen Aspekt dazu adressierten.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Daraus ergibt sich die Frage, wie das nun mit Kriegsverbrechen zusammenhängt? Roboter haben keine Gefühle, und regen sich nicht auf, wenn ihr Kamerad getötet wird. Sie begehen keine Verbrechen aus Zorn oder Rache. Aber Roboter haben keine Gefühle, Sie sehen die 80-jährige Großmutter im Rollstuhl auf die gleiche Art, wie sie einen T80 Panzer sehen. Beide sind nur eine Folge von Nullen und Einsen. Und so müssen wir herausfinden, wie wir die Regeln des Krieges aus dem 20 Jahrhundert, die mittlerweile alt genug für das Altersheim sind, auf den Stand der Technologien des 21 Jhdts bringen.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Ich habe darüber gesprochen, was die Zukunft des Krieges zu sein scheint, beachten Sie, dass ich nur reale Beispiele verwendet habe, und Sie sahen ausschließlich echte Bilder und Videos. Das stellt uns alle vor eine große Herausforderung, über die wir gründlich nachdenken müssen, bevor Sie sich darüber sorgen, dass Ihnen Ihr Roomba ihr Leben wegsaugt. Werden wir zulassen, dass wir das, was sich gerade im Krieg manifestiert, verleugnen, weil es so fantastisch klingt? Werden wir uns der Realität des Kriegs im 21 Jahrhundert stellen? Wird unsere Generaton den gleichen Fehler machen, wie die vorangegangene mit den Atomwaffen, die, die sich daraus ergebenden Fragen ignorierten, bis die Büchse der Pandora offen war?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Vielleicht liege ich falsch. Ein Robotik-Wissenschaftler sagte mir, dass es so wäre, Er sagte, "Es gibt keine wirklichen sozialen, ethischen, moralischen Fragen bei Robotern." Und fügte hinzu, "Außer die Maschine tötet wiederholt die falschen Leute, " Zitat: "dann ist es nur eine Frage des Produkt-Rückrufs."
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
So endet es hier damit ... Werfen wir doch einen Blick nach Hollywood. Vor ein paar Jahren erstellte Hollywood von allen Top Charakteren eine Liste der 100 Top Helden, und der 100 Top Schurken aus der ganzen Geschichte Hollywoods. Die Figuren, die die Besten und die Schlechtesten der Menschheit darstellten. Nur eine Figur schaffte es auf beide Listen. Der Terminator, eine Roboter-Tötungsmaschine. Das zeigt, dass unsere Maschinen zum Guten wie zum Bösen verwendet werden können. Aber für mich macht es deutlich, dass es auch bei Menschen eine Dualität gibt.
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Diese Woche hier ist eine Feier unserer Kreativität. Unsere Kreativität hat uns zu den Sternen geführt. Unsere Kreativität hat Kunstwerke und Literatur erschaffen, um unsere Liebe auszudrücken, aber jetzt lenken wir unsere Kreativität in eine bestimmte Richtung, um fantastische Maschinen zu bauen, mit unglaublichen Fähigkeiten, vielleicht schaffen wir eines Tages sogar eine völlig neue Spezies. Aber einer der Hauptgründe, warum wir das tun, ist, weil wir den Trieb haben uns gegenseitig zu zerstören. Deshalb sollten wir uns fragen, ob unsere Maschinen, oder wir selbst auf Krieg programmiert sind? Vielen Dank. (Applaus)
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war? Thank you. (Applause)