I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Jag tänkte inleda med en krigsscen. Det fanns ingen varning för kommande faror. Irakiska upprorsmän hade placerat en IED, en improviserad sprängladdning, med stor noggrannhet vid vägkanten. Fram till 2006 skedde fler än 2 500 sådana typer av attacker varje månad, och de var den främsta orsaken till skador bland amerikanska soldater och civila irakier. Gruppen som sökte denna IED kallas för ett EOD-team - för bortförande av explosiva laddningar, och de är spjutspetsen i den amerikanska ansträngningen att bli kvitt dessa vägbomber. Varje EOD-team åker ut på ungefär 600 anrop om vägbomber varje år, och desarmerar cirka två bomber om dagen. Det tydligaste tecknet på hur värdefulla de är i krigsinsatsen, är att upprorsmännen ger en belöning på 50 000 USD för att döda en enda EOD-soldat.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Olyckligtvis slutade just detta anrop inte så bra. När väl soldaten kommit nära nog för att se de avslöjande kablarna från bomben, exploderade den i flammor. Beroende på hur nära du är och hur mycket explosiva ämnen som packats in i bomben kan den orsaka död eller skada. Man måste vara så långt som 50 meter bort för att komma undan. Stötvågen är så stark att den kan bryta av ben och armar även om du inte träffas. Den här soldaten hade varit ovanpå bomben.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Så när hans team kom fram fanns det mycket lite kvar. Den kvällen gjorde befälet sin sorgesamma plikt och skrev ett kondoleansbrev tillbaka till USA, där han talade om hur hårt förlusten hade slagit mot enheten, över det faktum att de hade förlorat sin tappraste soldat, en soldat som hade räddat deras liv många gånger. Och han bad om ursäkt för att han inte kunde ta med dem hem. Men han talade ändå om ljusglimten som lättade på sorgen över förlusten. Han skrev, "När en robot dör, behöver man inte skriva ett brev till dess mor".
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Scenen låter som science fiction, men är redan nu verklighet på slagfältet. Soldaten i detta fall var en tjugo kilo tung robot, PackBot. Enhetschefens brev skickades inte till ett familjehem i Iowa som man ofta ser i gamla krigsfilmer, utan gick till företaget iRobot, som är döpt efter Asimov-romanen och den mindre bra Will Smith-filmen, och... (Skratt) Ni kanske minns att i den fiktiva världen, började robotar utföra vardagliga sysslor, och sen ta sig an val som rörde liv och död. Det är en verklighet vi möter idag.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Det vi ska göra är faktiskt att visa några bilder bakom mig för att visa er verkligheten för robotar som används i krig just nu eller som är på prototyp-stadium. Bara för att ge er en försmak. Man kan också säga att ni inte kommer att se någonting som drivs av teknologi från Vulcan, eller tonårs- trollkarlars hormoner eller något sådant. Allt detta är verkligt, så låt oss börja att visa dessa bilder.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Någonting stort händer i krigsindustrin idag, och kanske även i mänsklighetens historia. USAs militär gick in i Irak med en handfull drönare i luften. Vi har nu 5 300 stycken. Vi gick in utan obemannade marksystem. Vi har nu 12 000 stycken. Och den tekniska termen "killer application" får en helt ny betydelse i denna sfär.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Vi måste komma ihåg att vi talar om robotarnas T-Ford, bröderna Wright-flygplan, jämfört med vad som komma skall. Det är läget vi är i just nu. En person jag nyligen mötte var trestjärnig general i flygvapnet, och han sa i princip att vi är på väg mot tiotusentals robotar som sköter våra konflikter, och dessa siffror spelar roll eftersom vi inte bara talar om tiotusentals av dagens robotar, utan tiotusentals av dessa prototyper och framtida robotar, eftersom en av de saker som såklart påverkar teknologisk utveckling är Moores lag som säger att man kan få in mer och mer beräkningskraft i dessa robotar. Ge det ungefär 25 år, och om Moores lag visar sig stämma, kommer dessa robotar att ha närapå en miljard gånger mer kraftfull beräkningskraft än idag.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Vad detta betyder är att saker som vi tidigare bara talade om vid science fiction-konvent som Comic-con nu måste talas om i maktens korridorer på platser som Pentagon. En robotrevolution har nått oss.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Men låt mig tala klarspråk. Jag talar inte om en revolution där du behöver vara orolig att Kaliforniens guvernör ska dyka upp vid din dörr, som Terminator. (Skratt)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
När historiker tittar på vår tid kommer de dra slutsatsen att vi är i en annan sorts revolution: en krigsrevolution, ungefär som när atombomben uppfanns. Men det kan vara större än så, eftersom våra obemannade system inte bara
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
påverkar "hur" vi slåss, de påverkar också "vem" vi slåss mot på en helt fundamental nivå. Varje tidigare krigsrevolution, vare sig det handlar om maskingeväret eller atombomben, handlade om system som antingen sköt snabbare, eller längre, eller smällde högre. Det är inte minst sant när det gäller robotteknik, men det förändrar också upplevelsen av krigaren och även en krigares identitet.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Ett annat sätt att uttrycka det här är att mänsklighetens 5000-åriga monopol på att utkämpa krig håller på att brytas ner under vår egen livstid. Jag har tillbringat de senaste åren med att träffa alla aktörer inom detta område, från robotingenjörerna till science fiction-författarna som inspirerat dem, till de 19-åriga drönarpiloter som slåss från Nevada, till fyrstjärniga generaler som är deras befäl, och även de irakiska upprorsmän som de söker, och tagit reda på vad de tycker om våra system, och det intressanta är inte bara deras berättelser utan hur deras erfarenheter visar ringar på vattnet som sprider sig utåt i vårt samhälle, våra lagar, vår etik och så vidare. Det jag vill göra med resten av tiden är att utveckla några av dessa.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Det första är att krigets framtid, även robotkrig, inte kommer att vara enbart amerikansk. USA ligger idag långt fram inom robotteknik, men vi vet att inom teknologi finns det ingenting som heter ett permanent första drag eller övertag. Snabb handuppräckning, hur många här använder fortfarande Wang-datorer? (Skratt) Det är samma sak med krig. Britterna och fransmännen uppfann stridsvagnen. Tyskarna luskade ut hur man använder den rätt, och det vi måste fundera över för USA är att vi har ett försprång just nu, men det finns 43 andra länder där ute som också utvecklar militär robotik, inklusive alla intressanta länder som Ryssland, Kina, Pakistan, Iran.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Och det här väcker en än större oro hos mig. Hur tar vi oss framåt i denna revolution givet tillståndet för vår tillverkning, och tillståndet för vetenskaps- och matematikundervisningen i våra skolor? Ett annat sätt att tänka på det är, vad innebär det att gå i krig allt mer med soldater vars hårdvara är gjord i Kina och mjukvaran skriven i Indien?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
På samma sätt som mjukvara har blivit öppen källkod, har även krigskonst blivit det. Till skillnad från ett hangarfartyg eller en atombomb, behöver man inte ett massivt system för att bygga robotar. En hel del finns att köpa. En del går även att bygga själv. En av sakerna som precis blixtrade förbi var en Raven-drönare, den handhållna som kastas. För omkring tusen dollar kan man bygga en själv, likvärdig med dem som soldaterna använder i Irak.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Det väcker en annan fråga när det gäller krig och konflikt. De goda kanske leker och fixar med dem som hobby, men det kan också de onda göra. Denna korsning mellan robotteknik och terrorism kommer att vara fascinerande men även alarmerande, och vi har redan sett dess början.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Under kriget mellan staten Israel och Hizbollah, en icke-statlig aktör, flög den icke-statliga aktören fyra olika drönare mot Israel. Det finns redan en jihadistisk hemsida dit man kan gå och fjärrdetonera en IED i Irak från sin hemdator. Det jag tror vi kommer att se är
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
att två nya trender kommer ut ur det här. Först och främst kommer makten att stärkas hos individer gentemot regeringar, men den andra sidan av det är att vi kommer se en utökning i aktivitet när det kommer till terrorism. Framtiden kan bli en korsning mellan Al-Qaida 2.0 och nästa generations Unabombare. Ett annat sätt att tänka kring det här är det faktum att man inte behöver övertyga en robot om att den kommer få 72 jungfrur efter att den har dött för att övertyga den om att spränga sig själv. Ringarna på vattnet kommer nå
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
ända till våra politiker. En av de människor jag träffat var tidigare vice försvarsminister till Ronald Reagan, och han uttryckte sig så här: "Jag gillar dessa system eftersom de räddar amerikanska liv, men jag oroar mig för en större marknadisering av krig, mer prat om chock och fruktan, för att förvilla kostnadsdiskussionerna. Folk är mer benägna att stödja användande av våld om de ser det som kostnadsfritt."
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
För mig tar robotar vissa trender som redan är igång i vår förvaltning, och drar dem kanske till sin logiska ändpunkt. Vi har inte krigsinkallelse. Vi har inte krigsförklaringar längre. Vi köper inte krigsobligationer längre. Och nu när det är så att vi omvandlar fler och fler amerikanska soldater som skulle skickas till fronten, till maskiner, tar vi de redan låga trösklarna för att gå till krig och drar ner dem till marknivå.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Men framtidens krig kommer också vara ett YouTube-krig. Våra nya teknologier tar inte bara bort människor från riskområden. De spelar också in allt de ser. Så de kopplar inte bara bort allmänheten: de omformar deras relation till krig. Det finns redan flera tusen filmklipp med stridsinspelningar från Irak på YouTube, det mesta insamlat av drönare.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Men, det skulle kunna vara bra. Det skulle kunna skapa kopplingar mellan hemmafronten och krigsfronten på ett aldrig tidigare skådat sätt. Men kom ihåg, det här äger rum i vår konstiga, märkliga värld, och därför gör tillgången till att ladda ner dessa videoklipp till din iPod eller till din Zune också att du får förmågan att göra det till underhållning.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Soldater har ett namn för dessa klipp. De kallar det krigsporr. Ett typiskt exempel som skickades till mig var e-post med en bifogad fil, ett videoklipp på en Predator som slår ut en motståndarbas. Missilträffar, kroppar kastas upp i luften av explosionen. Allt koordinerat till musik. Musiken var poplåten "I Just Want to Fly" med Sugar Ray.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Den här förmågan att se mer men uppleva mindre skapar en rynka i allmänhetens relation till krig. Man kan dra en parallell till sport. Det är som skillnaden mellan att se en NBA-match, en professionell basketmatch på TV, där atleter är små figurer på en skärm, jämfört med att vara på samma basketmatch själv och inse hur någon som är två och tio verkligen ser ut.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Men vi måste komma ihåg, att det här är bara videoklipp. Dessa är endast ESPN SportsCenters version av matchen. De tappar sammanhanget. Det förlorar överblick. Det förlorar mänsklighet. Krig blir bara
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
dunkningar och smarta bomber. Men ironin i allt detta är att medan framtiden kan komma att involvera fler och fler maskiner, är det vår mänskliga psykologi som driver på allt detta, det är våra mänskliga brister
So one example of this that has
som leder fram till dessa krig.
big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Ett exempel på hur detta har stor återklang i den politiska sfären är hur det påverkar våra verkliga ideologiska tankekrig som vi utkämpar mot radikala grupperingar. Vilket budskap tror vi att vi sänder med dessa maskiner kontra hur detta budskap uppfattas?
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
En av de jag mötte hade en hög post inom Bush-administrationen, och hade detta att säga om vårt omänskliggörande av krig: "Det är till vår fördel. Det som skrämmer folk är vår teknologi." Men när du träffar människor, till exempel i Libanon, säger de något helt annat. En av dem jag mötte där var nyhetsredaktör, och vi samtalade medan en drönare flög förbi, och det här är vad han hade att säga: "Det här är bara ännu ett tecken på de kallhjärtade och grymma israeler och amerikaner som är ynkryggar eftersom de skickar maskiner för att slåss. De vill inte slåss som riktiga män, snarare är de rädda för att slåss, så vi behöver bara döda några av deras soldater för att besegra dem."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
Krigets framtid innehåller också en ny typ av krigare, och det håller faktiskt på att omdana upplevelsen av att gå i krig. Man kan kalla det för kontorskrigare. Det här är hur en Predator-drönarpilot beskriver sin upplevelse av att slåss i Irakkriget utan att någonsin lämna Nevada. "Man slåss i kriget under 12 timmar, avfyrar vapen mot mål, leder in eld mot fientliga krigare, sedan sätter man sig i sin bil och kör hem, och inom 20 minuter sitter man vid middagsbordet och pratar med sina barn om deras hemläxor."
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Men att balansera de psykologiska upplevelserna är otroligt tungt, och faktum är att dessa drönarpiloter har högre andel posttraumatisk stress än många av de enheter som är fysiskt i Irak. Men några oroar sig att detta distanserande kommer leda till något annat, att det kommer göra begrundandet av krigsbrott för enkelt eftersom man har distansen. "Det är som ett tv-spel", beskrev en ung pilot det för mig hur man slår ut fientliga trupper på håll. Och som alla som spelat Grand Theft Auto vet, så gör vi saker i tv-spelsvärlden som vi aldrig skulle göra i verkligheten.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Så mycket av det ni hör från mig idag är att det finns en annan sida av teknologirevolutionen och att det håller på omforma vår nutid och kanske även omforma framtidens krig. Moores lag spelar en roll, men det gör också Murphys lag. Krigets ovissheter kommer inte försvinna. Fienden har en röst.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Vi börjar få ofattbara nya förmågor, men vi ser och upplever också nya mänskliga dilemman. Ibland är dessa bara "ojdå"-ögonblick, som en chef för ett robotteknikföretag sa, man har helt enkelt "ojdå"-ögonblick. Men vad är "ojdå"-ögonblick när det gäller robotteknik i krig? Tja, ibland är de roliga. Ibland är de som den där scenen från Eddie Murphy-filmen "Best Defense", men i verkligheten, där de testade en robot med maskingevärsarmar, och under visningen började den snurra runt och rikta sitt maskingevär mot åskådarläktaren. Turligt nog var inte vapnet laddat och ingen blev skadad, men andra gånger är "ojdå"-ögonblicken rent tragiska, som förra året i Sydafrika där en luftartillerikanon fick ett "mjukvarufel", och faktiskt vände sig om och sköt, och nio soldater dödades.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Vi har nya rynkor när det gäller krigslagar och ansvarsskyldighet. Vad gör vi med sånt som obemannat dråp? Vad är obemannat dråp? Vi har redan tre exempel på anfall med drönare där vi trodde att vi fått tag i bin Laden men det visade sig att så inte var fallet. Och i det läget är vi just nu. Och då pratar vi inte ens om beväpnade, autonoma system med fulla befogenheter till dödligt våld. Tro inte att det inte är på väg. Under mina efterforskningar hittade jag fyra olika Pentagon-projekt som behandlar olika aspekter kring detta.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Så ni ställs inför frågan: vilka problem med krigsbrott leder det till? Robotar är känslolösa, så de blir inte ledsna om kollegan dödas. De begår inte brott i vredesmod eller med hämndmotiv. Men robotar är känslolösa. De ser en 80-årig morförälder i en rullstol på samma sätt som de ser en T-80-pansarvagn: de är båda bara en serie ettor och nollor. Så vi måste ställas inför denna fråga: hur får vi våra 1900-talslagar för krig, som är så åldersstigna nu att de har rätt till äldrevård, att hinna ikapp denna teknik från 2000-talet?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Och för att sammanfatta, jag har talat om vad som verkar vara krigets framtid, men märk väl att det enda jag använt är verkliga exempel och det ni fått se är riktiga videoinspelningar och bilder. Så detta skapar en enorm utmaning som vi måste oroa oss för långt innan ni behöver oroa er för att er Roomba suger livet ur er. Kommer vi låta det faktum att det som visar sig just nu inom krigskonsten låter mer som science fiction och därför håller oss i förnekelse? Kommer vi möta verkligheten i 2000-talets krig? Kommer vår generation att göra samma misstag som tidigare generationer gjorde när det gäller atomvapen, och inte hantera de frågor som omgärdar det förrän Pandoras ask redan är öppnad?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Men, jag kan ha fel om det här, och en av Pentagons forskare sa till mig att jag har fel. Han sa: "det finns inga sociala, etiska, moraliska spörsmål med robotar." "Det vill säga", tillade han, "om inte maskinerna upprepade gånger dödar fel människor. Då är det en fråga om produktreklamation."
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Så slutargumentet för detta är att vi faktiskt kan vända oss till Hollywood. För några år sedan samlade Hollywood alla sina toppkaraktärer och skapade en topp 100-lista med filmhjältar och en topp 100 med filmskurkar i Hollywoods historia, karaktärer som representerar det bästa och det värsta hos mänskligheten. Bara en karaktär kom med på båda listorna: Terminatorn, en mördarrobot. Det pekar på det faktum att våra maskiner kan användas till både gott och till ont, men för mig pekar det på att det finns en dualitet också hos människan.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Denna vecka firar vi vår kreativitet. Vår kreativitet har tagit vår art till stjärnorna. Vår kreativitet har skapat konstverk och litteratur som uttrycker vår kärlek. Och nu använder vi vår kreativitet åt ett visst håll för att bygga fantastiska maskiner med otroliga förmågor, kanske till och med en dag en helt ny art. Men en av anledningarna till att vi gör detta är vår drivkraft att förgöra varandra, och därför väcks frågan vi alla borde ställa oss: är det våra maskiner, eller är det vi själva som är inställda på krig?
Thank you. (Applause)
Tack så mycket. (Applåder)