I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Pensavo di cominciare con una scena di guerra. Non c'era granché da avvertire del pericolo imminente. Il combattente iracheno aveva piazzato uno IED, un Ordigno Esplosivo Improvvisato, lungo il ciglio della strada con grande cura. Nel 2006 venivano compiuti più di 2.500 attacchi di questo tipo ogni mese, ed erano la causa principale di morte tra i soldati americani e i civili iracheni. La squadra che stava dando la caccia a questo IED si chiama squadra EOD, Sono gli artificieri delle forze armate, ovvero il corpo d'avanguardia usato dagli americani per disinnescare questi ordigni lungo le strade. Ogni squadra EOD interviene circa 600 volte ogni anno, disinnescando circa due bombe al giorno. Questi uomini sono molto importanti per lo sforzo bellico, tanto che i combattenti iracheni hanno messo una taglia di 50.000 dollari sulla testa di ciascun soldato EOD.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Sfortunatamente, quella particolare chiamata non sarebbe finita bene. Mentre il soldato si avvicinava per poter vedere i fili rivelatori della bomba, questa è esplosa in una nuvola di fiamme. Ora, a seconda di quanto si è vicini e di quanto esplosivo è stato inserito nella bomba, questa può causare morte o gravi ferite. Bisogna stare a una distanza di circa 50 metri per essere al sicuro. L'esplosione è così forte che può persino staccarti un arto, anche se non vieni colpito. E quel soldato era esattamente sopra la bomba.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Quando il resto della squadra si è avvicinato, era rimasto molto poco di lui. Quella notte il comandante dell'unità dovette svolgere un triste compito: scrivere una lettera di condoglianze da inviare negli USA. Ha scritto che era stata una grave perdita per la sua unità, perché se n'era andato il soldato più coraggioso, uno che aveva salvato la vita agli altri molte volte. Poi si è scusato per non poterlo riportare a casa. Ma ha anche parlato della lezione positiva che ha tratto da quella perdita. "Almeno" ha scritto "quando muore un robot, non devo scrivere una lettera a sua madre."
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Sembra fantascienza, ma è già realtà sui campi di battaglia. In quel caso il soldato era un robot di 20 chili chiamato PackBot. La lettera del comandante era diretta a una fattoria nell'Iowa, come si vede nei vecchi film di guerra, ma alla iRobot Company, che prende il nome dal romanzo di Asimov e dal non bellissimo film con Will Smith, e... beh... (Risate) se vi ricordate, in quel mondo fittizio i robot avevano cominciato sbrigando faccende quotidiane, poi arrivavano a prendere decisioni di vita e di morte. Questa è una realtà che vediamo oggi.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Quello che faremo è semplicemente guardare una serie di foto che mostra quali robot vengono utilizzati in guerra oggi, e altri ancora allo stadio di prototipi. Tanto per darvi un assaggio. Un altro modo di dirlo è che quello che vedrete non ha nulla a che fare con la tecnologia vulcaniana o con gli ormoni di qualche genietto. Qui è tutto vero. Quindi perché non andiamo avanti e facciamo partire le foto.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Sta succedendo qualcosa di importante in guerra, e forse anche nella storia dell'umanità. L'esercito americano è andato in Iraq con una manciata di droni da ricognizione aerea, adesso ne abbiamo 5.300. Siamo entrati in guerra senza sistemi di terra robotizzati, adesso ne abbiamo 12.000. Il termine tecnico «killer application» acquisisce un nuovo significato in questo contesto.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Dobbiamo ricordare che è stiamo parlando delle vecchie Ford Modello T o degli aerei dei fratelli Wright, se confrontati con quello che vedremo presto. Questo è il punto in cui siamo ora. Una delle persone che ho incontrato di recente è un generale a tre stelle dell'aeronautica, che in pratica mi ha detto che presto vedremo decine di migliaia di robot operare in zone di guerra, e questi numeri contano, perché non stiamo parlando di decine di migliaia di robot di oggi, ma decine di migliaia di questi prototipi e robot di domani, poiché, naturalmente, una dei fattori che spinge sulla tecnologia è la Legge di Moore, per cui si può accrescere sempre di più la capacità di calcolo di quei robot, quindi nel giro di 25 anni, se la Legge di Moore rimane valida, quei robot saranno circa un miliardo di volte più potenti di quelli di oggi.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Questo vuol dire che il tipo di cose di cui si parlava soltanto alle convention sulla fantascienza come Comic-Con dovrà essere discusso nelle stanze del potere in posti come il Pentagono. Una rivoluzione robotica è imminente.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Ma devo essere chiaro: non sto parlando di una rivoluzione in cui dobbiamo preoccuparci che il governatore della California si presenti alla porta, in stile Terminator. (Risate)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Quando gli storici guarderanno questo periodo, decideranno che stiamo affrontando un tipo diverso di rivoluzione: una rivoluzione nella guerra, come l'invenzione della bomba atomica. Ma potrebbe essere anche più importante perché i nostri sistemi computerizzati
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
non cambiano soltanto il "come" della guerra, ma anche il "chi" al suo livello più profondo. Voglio dire che ogni precedente rivoluzione, che fosse la mitragliatrice o la bomba atomica, riguardava un sistema che o sparava più in fretta, o più lontano, o più forte. Ed è certamente il caso della robotica, ma qui viene cambiata anche l'esperienza del guerriero e anche la sua stessa identità.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
In altre parole, il monopolio che l'umanità ha avuto negli ultimi 5.000 anni sul combattere la guerra si sta sgretolando nell'arco della nostra vita. Ho passato gli ultimi anni andando in giro e incontrando i vari giocatori di questa partita, dagli scienziati agli autori di romanzi di fantascienza che li hanno ispirati, dai piloti di droni 19enni che combattono dal Nevada ai generali a 4 stelle che li comandano, fino ai combattenti iracheni che vengono attaccati per sapere cosa pensano dei nostri sistemi, e ho trovato interessanti non solo le loro storie, ma come le loro esperienze indichino questi effetti a cascata che stiamo vivendo nella nostra società, nella legge, nell'etica, eccetera. Perciò quello che vorrei fare con il tempo rimasto è in pratica analizzare un paio di questi effetti.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Il primo è che il futuro della guerra, compresa quella robotica, non sarà soltanto americano. Gli USA sono al momento in testa nella robotica militare, ma sappiamo bene che in campo tecnologico non esiste un vantaggio permanente per il primo giocatore. Per veloce alzata di mano, quanti in questa stanza usano i computer Wang? (Risate) In guerra è la stessa cosa. Gli inglesi e i francesi hanno inventato il carro armato. I tedeschi hanno capito come usarlo al meglio, quindi ciò su cui dobbiamo riflettere per gli USA è che siamo in vantaggio adesso, ma ci sono 43 altre nazioni là fuori che lavorano alla robotica militare, incluse tutte le nazioni interessanti come Russia, Cina, Pakistan, Iran.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Tutto ciò crea una preoccupazione anche maggiore: come possiamo fare progressi in questa rivoluzione considerando lo stato della nostra industria e lo stato della nostra istruzione in scienze e matematica nelle scuole? Potete pensarla anche in questo modo: cosa significa mandare in guerra sempre più spesso soldati con l'equipaggiamento fatto in Cina e il software scritto in India?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Ma come il software è diventato open source, così è diventata la guerra. A differenza di una portaerei o di una bomba atomica, non serve un grande sistema di produzione per le componenti robotiche. Molte sono già in commercio. Molte sono persino "fai da te". Una delle cose che avete appena visto passare sullo schermo era un drone Raven, quello lanciato a mano. Con circa 1.000 dollari potete costruirvene uno equivalente a quello che i soldati usano in Iraq.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Questo pone un'altra questione per quello che riguarda guerre e conflitti. I buoni potrebbero giocare con questi aggeggi e lavorarci sopra per hobby, ma potrebbero farlo anche i cattivi. Questo incrocio tra robotica e cose come il terrorismo si annuncia affascinante e persino inquietante, e ne abbiamo già visto l'inizio.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Durante la guerra tra Israele, uno stato sovrano, e Hezbollah, un non-stato, il non-stato ha lanciato 4 tipi di droni diversi contro Israele. E' già disponibile un sito jihadista in cui si può entrare e far detonare un IED in Iraq mentre si sta comodamente seduti al computer di casa.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Penso che quello che vedremo sarà l'emergere di due trend. Il primo, vedremo rinforzarsi il potere degli individui rispetto ai governi, ma il secondo è che vedremo un'espansione del regno del terrorismo. Il futuro di questo potrebbe essere un incrocio tra al-Qaeda 2.0 e la prossima generazione di Unabomber. E un altro punto a cui pensare è il fatto che, ricordatelo, non c'è bisogno di convincere un robot che riceverà 72 vergini dopo la morte per convincerlo a farsi esplodere.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Ma gli effetti a cascata si faranno sentire perfino nella nostra politica. Una delle persone che ho incontrato era un ex assistente al Ministro della Difesa di Ronald Reagan, e lui mi ha detto: "Mi piacciono questi sistemi perché salvano vite americane, ma mi preoccupo della marketizzazione delle guerre, della spettacolarizzazione, per spostare la discussione dai costi. Le persone sono più pronte ad appoggiare l'uso delle armi se lo vedono a costo zero."
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Secondo me i robot prendono certi trend che sono già in azione nella nostra politica e li portano a quello che è il loro logico culmine. Non abbiamo un piano. Non abbiamo dichiarazioni di guerra. Non compriamo più obbligazioni di guerra. E ora dobbiamo considerare che stiamo convertendo sempre più soldati americani che manderemmo al fronte in macchine, e quindi potremmo portare i limiti già bassi che ci sono in guerra e farli cadere a terra.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Ma il futuro della guerra sarà anche su YouTube. Nel senso che le nuove tecnologie non solo allontanano gli uomini dai rischi. Registrano anche ogni cosa che vedono. Non solo scollegano il pubblico: ridefiniscono la relazione con la guerra. Ci sono già alcune migliaia di video di combattimenti in Iraq su YouTube, in questo momento, la maggior parte ripresa dai droni.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Ora, potrebbe essere una buona cosa. Potrebbe costruire una connessione tra le persone a casa e il fronte come mai prima d'ora. Ma ricordate, tutto questo accade nel nostro strano, folle mondo quindi la possibilità di scaricare questi video sugli iPod o sugli Zune vi darà inevitabilmente la possibilità di trasformarli in intrattenimento.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
I soldati hanno un nome per questi video. Li chiamano porno di guerra. Un tipico video mi è arrivato come allegato di un'email, ed era una registrazione dell'attacco di Predator a una postazione nemica. Il missile colpisce, corpi volano in aria per l'esplosione. E c'era la colonna sonora. In sottofondo c'era la canzone "I just want to fly" di Sugar Ray.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
La possibilità di vedere di più ma provare di meno crea un'increspatura nella relazione del pubblico con la guerra. Di solito faccio un paragone sportivo. E' come la differenza tra guardare una partita NBA, una partita di basket professionistico in TV dove gli atleti sono piccole figure sullo schermo, ed essere alla stessa partita di persona rendendosi conto di quanto siano alti davvero dei giocatori di due metri e venti.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Dobbiamo anche ricordarci che questi sono solo spezzoni. Sono la versione dei canali sportivi della partita. Si perde il contesto. Si perde la strategia. Si perde l'umanità. La guerra diventa schiacciate a canestro e bombe intelligenti.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
L'ironia di tutto questo è che mentre il futuro della guerra coinvolgerà sempre più macchine, è la nostra psicologia umana che guida tutto, sono i nostri fallimenti umani che portano a queste guerre.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Un esempio di questa teoria che ha grande risonanza in politica è il ruolo che ha nella nostra reale guerra di idee che siamo combattendo contro i gruppi radicali. Qual è il messaggio che noi pensiamo di inviare con queste macchine rispetto a quello che viene ricevuto.
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Una delle persone che ho incontrato era un funzionario esperto dell'amministrazione Bush, e aveva questa opinione riguardo la disumanizzazione della guerra. "Favorisce la nostra forza. Ciò che spaventa le persone è la nostra tecnologia." Ma quando si incontrano persone in Libano, per esempio, si ascolta una storia molto diversa. Una di quelle che ho incontrato era un giornalista, parlavamo mentre un drone ci volava sopra la testa, e la sua opinione era questa. "Questo è solo un altro segno del cuore freddo e crudele degli israeliani e degli americani, dei codardi che mandano delle macchine a combattere contro di noi. Non vogliono combattere con noi come uomini veri, ma hanno paura di combattere, quindi è sufficiente che uccidiamo pochi dei loro soldati per sconfiggerli."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
Il futuro della guerra prevede anche un nuovo tipo di guerriero, e sta anche ridefinendo l'esperienza di andare in guerra. Li potete chiamare "guerrieri da scrivania". Ecco cosa ha detto un pilota di drone Predator descrivendo la sua esperienza di combattimento nella guerra in Iraq senza mai lasciare il Nevada. "Vai in guerra per 12 ore, spari ai bersagli, dirigi l'uccisione di combattenti nemici, poi salti in macchina, arrivi a casa e nel giro di 20 minuti sei seduto a tavola per cena e parli con i tuoi figli dei compiti."
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Bilanciare psicologicamente queste esperienze è incredibilmente difficile, e questi piloti di droni registrano tassi di PTSD (Disordini da Stress Post Traumatico) più alti di molte delle unità fisicamente in Iraq. Alcuni temono che questa mancanza di connessione porti qualcos'altro, che renderà i crimini di guerra molto più facili da accettare quando c'è questa distanza. "È come un videogioco" mi ha detto un giovane pilota parlando dell'attacco a distanza di truppe nemiche. Chiunque abbia giocato a Grand Theft Auto, sa che nei videogiochi facciamo cose che non faremmo mai nella realtà.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Quello che sto dicendo è che c'è sempre un altro lato delle rivoluzioni tecnologiche, il quale sta condizionando il nostro presente e forse anche il nostro futuro in guerra. La Legge di Moore agisce, ma anche quella di Murphy. La nebbia della guerra non si sta alzando. Il nemico ha un voto.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Abbiamo sempre nuove e incredibili capacità, ma stiamo anche vedendo e affrontando nuovi dilemmi umani. A volte questi sono solo momenti "Ooops!". Il direttore di un'azienda di robotica ha detto che ci sono semplicemente momenti "Ooops!". Beh, come sono i momenti "Ooops!" dei robot in guerra? A volte sono divertenti. A volte assomigliano a quella scena del film con Eddie Murphy "La miglior difesa è la fuga": per esempio quando hanno testato un robot armato di mitragliatrice e durante la dimostrazione ha cominciato a girare in cerchio e a puntare le mitragliatrici verso le tribune dei VIP. Per fortuna le armi non erano cariche e nessuno è stato ferito, ma altre volte i momenti "Ooops!" sono tragici, come in Sudafrica l'anno scorso, quando un cannone antiaereo ha subito un "problemino tecnico", si è attivato e ha sparato uccidendo nove soldati.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Ci sono nuove crepe nelle leggi sulla guerra e sulla responsabilità. Come rispondiamo a cose come un massacro non provocato dall'uomo? Cos'è un massacro non provocato dall'uomo? Abbiamo già avuto tre casi di attacchi di droni Predator a luoghi dove pensavamo ci fosse Bin Laden, per poi scoprire che non era vero. Questo è lo stato attuale delle cose. E non stiamo neanche parlando di sistemi armati e autonomi con piena autorità a usare forza. E non pensate che non ci arriveremo. Durante la mia ricerca ho incontrato quattro diversi progetti del Pentagono su diversi aspetti del problema.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Quindi abbiamo questa domanda: che cosa succede in caso di crimini di guerra? I robot non hanno emozioni, non diventano tristi se il compagno viene ucciso. Non commettono crimini per rabbia o vendetta. Ma i robot non hanno emozioni. Per loro una nonnina di 80 anni su una sedia a rotelle è come un carro armato T80: entrambi sono una serie di 0 e di 1. Dobbiamo trovare una risposta a questa domanda: come adattiamo le nostre leggi di guerra da XX secolo, così vecchie che potrebbero andare in pensione, a queste tecnologie del XXI secolo?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Per concludere, ho parlato di quello che sembra essere il futuro della guerra, ma ho usato soltanto esempi reali e avete visto solo foto e video di cose realmente accadute. Questo pone una grande sfida di cui tutti dovremmo interessarci, prima di doverci preoccupare che il nostro aspirapolvere possa "aspirarci la vita". Lasceremo che quello che sta accadendo in guerra, solo perché sembra fantascienza, non ci tocchi da vicino? Affronteremo la realtà della guerra del XXI secolo? La nostra generazione farà lo stesso errore commesso da quella precedente con la bomba atomica, e non affronterà le questioni che la circondano finché il vaso di Pandora non sarà già aperto?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Potrei anche sbagliarmi, e uno scienziato del Pentagono me l'ha anche detto. Mi ha detto: "Non ci sono questioni sociali, etiche, morali quando di tratta di robot. A meno che" ha aggiunto "la macchina non uccida le persone sbagliate ripetutamente. A quel punto è solo una questione di richiamo del prodotto."
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Il punto di tutto questo è che possiamo rivolgerci a Hollywood. Qualche anno fa Hollywood ha radunato tutti i personaggi più famosi e ha creato una lista dei 100 eroi e dei 100 cattivi di tutta la storia di Hollywood, i personaggi che rappresentavano il meglio e il peggio dell'umanità. Solo un personaggio compare in entrambe le liste: Terminator, una macchina assassina. Questo indica che le nostre macchine possono essere usate sia per il bene sia per il male, ma per me indica che c'è un dualismo anche negli esseri umani.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Questa settimana celebriamo la nostra creatività, che ha portato la nostra specie tra le stelle. Ci ha permesso di creare opere d'arte e letteratura per esprimere il nostro amore. E ora stiamo usando la nostra creatività per costruire macchine fantastiche con capacità incredibili, e forse, un giorno, anche una nuova specie. Ma uno dei motivi principali per cui facciamo tutto questo è il nostro desiderio di distruggerci l'un l'altro, quindi la domanda che tutti dovremmo porci è: sono le nostre macchine o siamo noi a essere programmati per uccidere?
Thank you. (Applause)
Grazie. (Applausi)