Říkal jsem si, že začnu výjevem z války. Před číhajícím nebezpečím tam téměř nic nevarovalo. Iráčtí povstalci umisťovali IED, neboli improvizovaná výbušná zařízení, podél cest s ohromnou péčí. Do roku 2006 se měsíc co měsíc uskutečnilo na 2 500 těchto útoků a byly hlavní příčinou ztrát u amerických vojáků a iráckých civilistů. Tým, který tyto IED zneškodňuje, se nazývá EOD tým — tým pro likvidaci výbušného arzenálu — a je jen špičkou ledovce amerických snah o likvidaci bomb podél cest. Každý EOD tým vyjíždí ročně k 600 nahlášeným bombám, takže zneškoďnují zhruba dvě bomby denně. Pravděpodobně nejlepším důkazem jejich přínosu ve válečném úsilí je, že iráčtí povstalci vypsali odměnu 50 000 dolarů za každou hlavu vojáka z EOD týmu.
I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Bohužel tato konkrétní výzva neskončila dobře. Než se voják dostal dostatečně blízko na to, aby uviděl zrádné dráty vedoucí k bombě, explodovala ve vlně plamenů. V závislosti na tom, jak blízko jste a kolik výbušniny se v bombě nachází, může vás buď usmrtit anebo zranit. Musíte od ní být alespoň na 45 metrů, abyste explozi unikli. Výbuch je tak silný, že vám dokáže zlámat končetiny, i když vás nezasáhne. Tenhle voják byl přímo nad bombou.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit.
A když zbytek týmu postoupil až k němu, mnoho toho po něm nenašli. Té noci velitel jednotky vykonal smutnou povinnost a sepsal kondolenci do Spojených států, ve které uvedl, jak těžká ztráta to pro jeho jednotku je a o tom, že ztratili svého nejstatečnějšího vojáka, vojáka, který jim už mnohokrát zachránil život. A omluvil se, že jej nedokázal přivést zpět domů. Ale pak se rozhovořil o lepších časech, kdy už nebude docházet ke ztrátám. „Přinejmenším,“ psal, „když zemře robot, nemusíte psát dopis jeho matce.“
That soldier had been on top of the bomb. And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Tahle scéna vypadá jako science fiction, ale na bojištích už je to realita. V tomto případě byl oním vojákem 20 kg vážící robot nazvaný PackBot. Dopis od velitele nemířil na nějaký statek v Iowě, jak to bývalo dříve ve starých válečných filmech, ale do firmy iRobot, která je pojmenována podle Asimovova románu a po ne tak dobrém filmu s Willem Smithem a… ehm… (Smích) Pokud si na to vzpomínáte, v tomto fiktivním světě roboti začali vykonávat běžné domácí práce a následně začali rozhodovat i o životě a smrti. To je realita, které dnes čelíme.
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Promítneme si tady za mnou sérii fotek, na kterých uvidíte opravdové roboty používané v bojích dnes nebo ty, které jsou už ve stádiu prototypu. To jen tak pro vaši představu. Dlužno říct, že neuvidíte nic, co by poháněly vulkánské technologie nebo hormony náctiletých čarodějů, nic takového. Všechno je skutečné. Pojďme se tedy podívat na ty obrázky.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
V dnešních válkách a dost možná i v samotných dějinách lidstva se odehrává něco velkého. Americká armáda šla do války v Iráku s hrstkou bezpilotních letounů ve vzduchu. Teď jich máme 5 300. Přišli jsme tam s nulovým počtem pozemních bezposádkových systémů. Teď jich máme 12 000. A odborný termín „killer application“ (průlomová aplikace) nabyl v tomto kontextu nového významu.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Nezapomínejme, že to, o čem mluvíme, je jako Model T od Forda nebo letadlo bratří Wrightů v porovnání s tím, co bude následovat. Tohle je aktuální stav. Nedávno jsem se setkal s tříhvězdičkovým generálem letectva, a ten mi řekl, že se v podstatě brzy dostaneme do situace, kdy budou v konfliktech operovat desítky tisíc robotů, a že na těchto číslech záleží, protože nepůjde o desítky tisíc současných robotů, ale o desítky tisíc těchto prototypů a budoucích robotů, protože samozřejmě jedna z věcí, podle níž se technologie řídí, je Moorův zákon, díky kterému můžete dovnitř těchto robotů vměstnat čím dál více výpočetní síly, takže za takových 25 let, pokud bude Moorův zákon nadále platit, budou tihle roboti téměř miliardkrát výkonnější než dnes.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Což znamená, že věci, o kterých se mluví tak akorát na sci-fi konferencích jako je Comic-Con, se budou probírat v mocenských ústředích, jako je Pentagon. Robotická revoluce je před námi.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Abych byl úplně přesný. Nemluvím teď o revoluci, kdy byste se museli bát, že se u vašich dveří zjeví guvernér státu Kalifornie v podobě Terminátora. (Smích)
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Až budou historikové zkoumat toto období, dojdou k závěru, že šlo o jinou revoluci: revoluci ve způsobu boje, podobnou vynálezu atomové bomby. Ale změna může být ještě přelomovější, protože naše bezposádkové systémy ovlivňují nejen způsob válčení, ale ovlivňují i to, kým je boj veden, a to na zcela zásadní úrovni. Všechny předchozí přelomy ve válkách, ať už šlo o samopal nebo atomovou bombu, se točily kolem systémů rychlejší střelby, většího dosahu nebo většího výbuchu. Tohle se samozřejmě týká i robotiky, ale tady se souběžně mění i zkušenost bojovníků a dokonce jejich samotná identita.
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
Jinak řečeno, 5 000 let starý monopol lidstva na účast ve válkách se hroutí ještě za našeho života. Několik posledních let jsem strávil schůzkami se všemi zainteresovanými, od robotiků po autory sci-fi, u kterých se inspirovali, přes 19leté navaděče bezpilotních letadel, kteří válčí z Nevady a čtyřhvězdičkové generály, kteří jim velí, až po irácké povstalce, kteří jsou terčem jejich útoků, a ptal jsem se, co si o našich systémech myslí. To, co mi přišlo obzvláště zajímavé, nejsou jen jejich příběhy, ale i to, jak jejich zážitky rezonují s dozvuky šířícími se naší společností, naším právním systémem, naší etikou, a tak dále. Ve zbývajícím čase bych rád některé z nich podpořil fakty.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Takže za prvé, budoucnost vedení války, dokonce i té robotické, nebude jen čistě americkou záležitostí. Spojené státy v současnosti vedou ve vojenské robotice, ale my víme, že v technologiích neexistuje nic takového jako trvalá výhoda prvního tahu nebo náskok. Jen krátce zvedněte ruku, kolik z vás v této místnosti ještě používá počítač Wang? (Smích) To samé platí i ve válce. Britové a Francouzi vynalezli tank. Němci přišli na to, jak ho správně používat a my musíme vzít v potaz, že Spojené státy dnes sice vedou, ale existuje dalších 43 zemí, které pracují na vojenských robotech, mezi nimi i všechny ty zajímavé země jako je Rusko, Čína, Pákistán, Írán.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
A to ve mně vyvolává ještě větší obavy. Jak v této revoluci postupujeme vzhledem ke stavu našeho průmyslu, úrovni naší vědy a matematické přípravy na našich školách? Anebo jinak vyjádřeno, jaký smysl má navyšovat počty vojáků v konfliktech, když jejich zbraně pochází z Číny a software z Indie?
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Stejně jako se software stal volně šiřitelným, stalo se to samé i ve vojenství. Narozdíl od letadlové lodě nebo atomové bomby, k výrobě robotů nepotřebujete obrovské výrobní systémy. Spousta se jich dá koupit v obchodě nebo dokonce vyrobit doma. Jedna z věcí, kterou jste právě viděli, byl dron Raven, který startuje hodem z ruky. Za tisíc dolarů si ho můžete postavit sami, stejný, jaký používají vojáci v Iráku.
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to
Což vyvolává další vrásky na čele, pokud dojde na válku nebo konflikt. Stejně jako se můžou zabývat modelařinou hodní hoši, můžou to dělat i ti zlobiví. Tohle propojení robotiky s terorismem bude ohromující, ba přímo znepokojivé a pozorujeme, že už začalo.
what the soldiers use in Iraq. That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
V průběhu války mezi státem Izrael a nestátní organizací Hizballáh, vypustil Hizballáh na Izrael čtveřici různých dronů. Existuje už i džihádistická stránka, ze které můžete na dálku odpálit IED v Iráku, zatímco sedíte doma u svého počítače.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting
Myslím si, že v souvislosti s tím uvidíme dva probíhající trendy. V prvním případě dojde k posílení moci jednotlivců vůči vládám, ale vzápětí v tom druhém budeme svědky rozšiřování sféry terorismu. Jeho budoucnost může spočívat ve zkřížení al-Káidy 2.0 a příští generace Unabomberů. Nezapomínejte, že dalším aspektem věci je skutečnost, že robota nemusíte přesvědčovat, že na něj po smrti čeká 72 panen, abyste jej přiměli vyhodit se do vzduchu.
at your home computer. And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die
Důsledky tohoto faktu se rozšíří i mimo naši politiku.
to convince them to blow themselves up.
Jedním z lidí, které jsem potkal, byl bývalý zástupce ministra obrany vlády Ronalda Reagana, který to vidí takto: „Mám tyto systémy rád, protože zachraňují životy Američanů, ale bojím se většího vystavení válek tlakům trhu, prostoru věnovaného řečem o hrůzách a šoku z válek, které upozadí diskuze o nákladech. Lidé ochotněji podpoří nasazení síly, jestliže mají pocit, že to nic nestojí.“
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Roboti pro mě symbolizují určité trendy, které už naše státní orgány zaznamenaly, a možná je povedou k jejich logickému vyústění. Neděláme odvody branců. Nevyhlašujeme války. Nenakupujeme už válečné dluhopisy. A nyní jsme v situaci, kdy namísto stále většího počtu amerických vojáků posíláme na nebezpečná místa stroje, v důsledku čehož mohou už tak nízké nároky na vojenskou připravenost spadnout až k nule.
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Budoucí války se budou odehrávat také na YouTube. To proto, že nové technologie nejen že zbavují lidi rizika, ale rovněž nahrávají vše co vidí. Tedy nejen že izolují diváka od dění, ale přetvářejí i jeho vztah k válce. Na YouTube k dnešnímu dni existuje už několik tisíc videonahrávek se záznamem bojů v Iráku, většinu z nich sesbíraly drony.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Může to být přínosné. Mohlo by to vybudovat vztahy mezi zázemím a válečnou linií jako nikdy předtím. Ale uvědomte si, že se tak děje v našem podivném, výstředním světě a možnost stahovat si tyto videonahrávky do iPodu nebo Zune zákonitě povede k tomu, že se z toho stane zábava.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Vojáci pro tyto nahrávky mají jméno. Říkají jim válečné porno. Typickou ukázku jsem dostal e-mailem, v jehož příloze bylo video s Predatorem útočícím na nepřátelskou pozici. Raketa dopadá, exploze vymrští těla do vzduchu. Byl k tomu hudební doprovod. Na pozadí hrála populární písnička „Já chci jen létat“ od Sugar Ray.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
To, že toho můžeme vidět více, ale méně to prožívat, rozděluje veřejnost ve vztahu k válce. Napadá mě sportovní paralela. Je to stejný rozdíl jako sledovat NBA, profesionální basketbal v televizi, kde jsou sportovci malinkými postavami na obrazovce a být na zápase přímo v hale, kde vnímáte, jak skutečně vypadá dvoumetrový člověk.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Musíme mít stále na paměti, že jsou to jen videoklipy. Zrovna jako ty sestříhané na ESPN SportsCenter. Postrádají kontext. Postrádají strategii. Postrádají lidskost. Válka se stává jen tím, kdo líp zasmečuje a navede bombu.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Ironie toho všeho je v tom, že zatímco se budoucnost válek může týkat stále většího počtu strojů, je to lidská psychologie, která tohle všechno pohání, jsou to naše lidská pochybení, která nás do těchto válek ženou.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
Jedním příkladem, který má značný ohlas v politické sféře, je to, co se odehrává v naší velmi konkrétní ideologické válce, kterou vedeme proti extrémistickým skupinám. Co si myslíme o poselství, které nasazením těchto strojů předáváme a co to pro příjemce skutečně znamená?
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Jedním z lidí, se kterým jsem mluvil, byl bývalý člen Bushovy administrativy, který o odosobněné válce prohlásil tohle: „Hraje to ve prospěch naší moci. To, co lidi děsí, je naše technologie.“ Ale když jedete ven a setkáte se s lidmi například v Libanonu, je to úplně jiný příběh. Jedním z těch, se kterým jsem se setkal, byl redaktor novin a když jsme si povídali, přeletěl mu nad hlavou dron, neudržel se a řekl: „Je to jen další z projevů chladnokrevné krutosti Izraelců a Američanů, kteří jsou zbabělí, protože proti nám posílají bojovat stroje. Nechtějí s námi bojovat jako opravdoví muži, ale mají z boje strach, takže nám stačí zabít pár jejich vojáků, abychom je porazili.“
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Nápadným rysem budoucí války je také nový typ bojovníka a vlastně to redefinuje zkušenost s nasazováním lidí do válek. Můžete mu říkat kancelářský bojovník. Jeden z pilotů bezposádkového Predatoru, který nikdy neopustil Nevadu, popsal svoje zkušenosti s bojem ve válce v Iráku takto: „Do války jdete na 12 hodin, střílíte na cíle, zabíjíte nepřátelské bojovníky a pak nastoupíte do auta a jedete domů a za 20 minut sedíte u kuchyňského stolu a povídáte si se svými dětmi o jejich domácích úkolech.“
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
Nastolit duševní rovnováhu mezi těmito dvěma zážitky je neuvěřitelně náročné a ve skutečnosti se u pilotů dronů vyskytuje posttraumatický syndrom mnohem častěji než u jednotek fyzicky přítomných v Iráku. Ale někteří lidé se obávají, že toto rozdvojení povede k něčemu jinému, že je možná mnohem jednodušší uvažovat o válečných zločinech na dálku. „Je to jako videohra.“ Tak mi popsal jeden mladý pilot zneškodňování nepřátelských jednotek na dálku. Každý, kdo hrál Grand Theft Auto, ví, že ve virtuálním světě děláme věci, které bychom tváří v tvář někomu skutečnému neudělali.
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Mnohé z toho, co ode mě slyšíte, znamená, že existuje i odvrácená strana technologických revolucí a že utváří naši současnost a dost možná bude utvářet i naši válečnou budoucnost. Moorův zákon platí, ale stejně tak platí Murphyho zákony. Mlha nad bojištěm se nezvedá. Nepřítel má hlas.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Získáváme neuvěřitelné nové schopnosti, ale zároveň objevujeme a zažíváme nová lidská dilemata. Občas jsou to jen „oops“ momenty, jak to nazval šéf jedné z firem vyrábějících roboty, prostě vám něco nevyjde. O jakých momentech mluvíme v případě válčících robotů? Občas jsou legrační. Někdy připomínají scénu z filmu „Nejlepší obrana“ s Eddie Murphym, ale odehrávající se ve skutečnosti. Testují tam robota, který je osazen kulometem a během předváděcí akce se začne otáčet a mířit na tribunu s VIP hosty. Zbraň naštěstí nebyla nabitá a nikdo nebyl zraněn, ale jindy končí takové „oops“ momenty tragicky, jako minulý rok v jižní Africe, kde měl protiletadlový kanon „softwarovou poruchu“, zapnul se a vystřelil, přičemž zahynulo devět vojáků.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Nové vrásky nám dělají vojenské zákony a zodpovědnost. Co uděláme s věcmi jako je masakr nespáchaný člověkem? Co to je masakr nespáchaný člověkem? Už jsme měli tři případy útoku Predatora, kdy jsme si mysleli, že jsme dostali bin Ládina, ale ukázalo se, že to byl omyl. V takovém stavu se právě nacházíme. A to ještě nemluvíme o ozbrojených autonomních systémech s plným právem k použití síly. A nemyslete si, že k jejich použití nedojde. Během svého výzkumu jsem narazil na čtyři různé projekty Pentagonu týkající se různých aspektů tohoto problému.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
A tak se nabízí otázka: Jakou to má spojitost s problémy jako jsou válečné zločiny? Roboti jsou bez emocí, takže se nenaštvou, když jim někdo zabije kamaráda. Nepáchají zločiny ve vzteku nebo z pomsty. Roboti nemají emoce. Při pohledu na 80letou babičku na kolečkovém křesle vidí to samé, jako při pohledu na tank T-80: obojí je pro ně jen řadou jedniček a nul. Takže tu máme otázku, kterou musíme vyřešit: Jak sladíme naše válečné zákony z 20. století, které jsou tak staré, že jsou zralé na odchod do penze, aby odpovídaly technologiím 21. století?
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Co říci na závěr, hovořil jsem o tom, co vypadá jako budoucnost války, ale všimněte si, že jsem použil jen skutečné příklady, viděli jste pouze snímky a videa ze skutečného života. Tohle znamená velkou výzvu pro nás všechny, kteří se spíš než o zdraví strachujeme o to, že z nás robotický vysavač Roomba vysaje život. Dovolíme, abychom to, co se dnes samo ve válkách odhaluje, stále popírali proto, že to zní jako science fiction? Postavíme se čelem realitě válek 21. století? Dopustí se naše generace stejného omylu, jakého se dopustila starší generace v případě atomových zbraní a nebude se zabývat problémy kolem, dokud nebude Pandořina skříňka otevřena?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
V tomhle bych se mohl mýlit a tvrdil mi to i jeden robotik z Pentagonu. Řekl: „Neexistují žádné opravdové společenské, etické a morální problémy, pokud jde o roboty. Alespoň ne do té doby,“ dodal, „dokud stroj nebude opakovaně zabíjet nesprávné lidi. Pak je to jen důvod k reklamaci výrobku.“
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Touto závěrečnou myšlenkou se vlastně můžeme odvolat na Hollywood. Před pár lety Hollywood shromáždil jména všech nejlepších filmových postav a vytvořil seznam 100 největších hrdinů a 100 největších padouchů v celé hollywoodské historii, postav, které ztělesňovaly to nejlepší a nejhorší z lidské povahy. Pouze jediná postava se objevila v obou seznamech: Terminátor. Robot zabiják. To poukazuje na skutečnost, že naše stroje mohou být použity pro dobro i zlo, ale pro mne to poukazuje také na existenci duality v nás lidech.
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Tento týden patří oslavám naší kreativity. Naše kreativita dovedla lidský druh ke hvězdám. Naše kreativita stvořila umělecká díla a literaturu, kterými vyjadřujeme lásku. A teď využíváme naši kreativitu pro konkrétní účel, abychom stvořili fantastické stroje s neuvěřitelnými schopnostmi a možná jednoho dne stvoříme i zcela nový druh. Ale jedním z hlavních důvodů, proč tohle děláme, je naše touha navzájem se zničit, takže bychom si měli položit otázku: Jsou to naše stroje anebo jsme to my, kdo je naprogramován pro válku? Děkuji.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
(Potlesk)
Thank you. (Applause)