I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Pensaba comenzar con una escena de guerra. Había poco que advertir sobre el peligro inminente. El insurgente iraquí había colocado el IED, un artefacto explosivo improvisado, cuidadosamente al borde de la carretera. En 2006 hubo más de 2,500 ataques de este tipo cada mes, y fueron la principal causa de víctimas entre soldados estadounidenses y civiles iraquíes. El equipo que estaba a la caza de este IED se llama EOD -Eliminación de Artefactos Explosivos- y son la punta de lanza en el esfuerzo estadounidense para suprimir estas bombas artesanales. Cada equipo EOD interviene unas 600 veces al año desactivando alrededor de dos bombas al día. Quizás la mejor indicación de su valor al esfuerzo de guerra, es que los insurgentes iraquíes ofrecían una recompensa de 50,000 dólares por la cabeza de cada soldado EOD.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Por desgracia, esa llamada en particular no terminaría bien. Cuando el soldado avanzó suficientemente cerca para ver los cables reveladores de la bomba, ésta explotó en una ola de fuego. Ahora, dependiendo de lo cerca que uno esté y la cantidad de explosivo que haya sido colocado en la bomba, puede causar la muerte o lesiones. Hay que estar a una distancia aproximada de 50 metros para estar a salvo. La explosión es tan fuerte que puede incluso romper un miembro, aunque el golpe no sea directo. Ese soldado estaba encima de la bomba.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Cuando el resto del equipo se acercó, de él había quedado poco. Esa noche el comandante de la unidad tuvo el penoso deber de escribir una carta de condolencias a los EE.UU. que hablaba de lo duro que había sido para su unidad la pérdida, del hecho de haber perdido el soldado más valiente, un soldado que más de una vez les había salvado la vida. Luego se disculpó por no poder llevarlo de vuelta a casa. Pero también habló de la lección positiva que aprendió de esa pérdida. "Al menos", escribió, "cuando un robot muere, no hay necesidad de escribir una carta a su madre".
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Suena a ciencia ficción pero ya es una realidad en el campo de batalla. En ese caso el soldado era un robot de 21 kilos llamado PackBot. La carta del comandante no se dirigía a una granja en Iowa como se ve en las viejas películas de guerra, sino a la iRobot Company, que toma el nombre de la novela de Asimov y de la no tan buena película con Will Smith, y... uh... (Risas)... si Uds. recuerdan, en ese mundo ficticio los robots comenzaron realizando tareas ordinarias, y luego comenzaron a tomar decisiones de vida o muerte. Es una realidad que hoy conocemos.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Lo que vamos a hacer es simplemente mostrarles una serie de fotos que muestran la realidad de los robots utilizados en la guerra en este momento o ya en fase de prototipo. Es solo para darles una idea. En otras palabras, no van a ver nada que funcione con la tecnología Vulcano o con las hormonas de algún geniecillo adolescente o cosas por el estilo. Todo esto es real. Así que sigamos adelante y comencemos a ver las imágenes.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Algo importante está sucediendo en la guerra, y quizás también en la historia de la humanidad. El ejército de Estados Unidos fue a Irak con unos cuantos aviones no tripulados. Ahora tenemos 5300. Fuimos sin sistemas terrestres no tripulados. Ahora tenemos 12000. Y el término técnico "aplicación asesina" adquiere un nuevo significado en este contexto.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Y no olvidemos que estamos hablando de los Ford Modelo T, los aviones de los hermanos Wright, en comparación con lo que vendrá pronto. Aquí es donde estamos ahora. Una de las personas que conocí hace poco fue un general de tres estrellas de la Fuerza Aérea, y dijo, básicamente, que muy pronto tendremos decenas de miles de robots operando en nuestros conflictos, y estas son cifras importantes ya que no se habla solo de decenas de miles de robots modernos, sino de decenas de miles de estos prototipos y robots del futuro, porque, por supuesto, uno de los factores que funciona en la tecnología es la Ley de Moore, la cual puede incorporar más y más potencia de cálculo a estos robots, así que si la Ley de Moore sigue vigente dentro de 25 años, esos robots serán unos mil millones de veces más potentes que ahora.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Esto significa que ese tipo de cosas de las cuales se hablaba solo en las convenciones de ciencia ficción como la Comic-Con tendrán que ser discutidas en los centros de poder y en lugares como el Pentágono. Se acerca una revolución de los robots.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Ahora, y en esto debo ser claro, no estoy hablando de una revolución en la que hay que preocuparse porque el gobernador de California se aparezca en su puerta a la Terminator. (Risas)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Cuando los historiadores miren este periodo, van a concluir que estamos viviendo un tipo de revolución diferente: una revolución en la guerra, como la invención de la bomba atómica. Pero podría ser aún más importante porque nuestros sistemas no tripulados no solo
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
afectan el "cómo" de la guerra, sino también el "quién" de la guerra en su nivel más fundamental. Es decir, cada revolución anterior en la guerra, ya sea la ametralladora o la bomba atómica, se basaba en un sistema que disparaba más rápido, o más lejos, o más fuerte. Ese es ciertamente el caso de la robótica, pero también cambia la experiencia del guerrero e incluso su propia identidad.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
En otras palabras, el monopolio que la humanidad ha tenido en los últimos cinco mil años para combatir la guerra se está desmoronando en nuestra vida. He pasado los últimos años por ahí reuniéndome con todos los actores en este campo, desde creadores de robots a los autores de ciencia ficción que los inspiró, a los pilotos de 19 años de aviones no tripulados que combaten desde Nevada, a los generales de cuatro estrellas que los manejan, hasta los insurgentes iraquíes que son atacados para saber qué opinan de nuestros sistemas, y me parecieron interesantes no solo sus historias, sino cómo sus experiencias indican que estos efectos dominó se reflejan en nuestra sociedad, en nuestras leyes, en nuestra ética, etc. Por eso quisiera utilizar el tiempo que queda para analizar un par de estos efectos.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
El primero es que el futuro de la guerra, incluyendo la robótica, no va a ser exclusivamente americano. Actualmente los Estados Unidos llevan la delantera en cuanto a robótica militar, pero sabemos que en la tecnología no hay avance o ventaja permanente. Una encuesta rápida: ¿Cuántas personas aquí siguen utilizando computadoras Wang? (Risas) Lo mismo ocurre en la guerra. Los británicos y los franceses inventaron el tanque. Los alemanes descubrieron cómo usarlo mejor, así que lo que hay que pensar para los Estados Unidos, es que estamos por delante en este momento, pero hay otros 43 países por ahí trabajando en robótica militar, incluyendo países interesantes como Rusia, China, Pakistán, Irán.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Esto me plantea una gran preocupación: ¿Cómo podemos avanzar en esta revolución, dado nuestro nivel de producción, el estado de nuestra ciencia y la formación matemática en las escuelas? También se puede pensar de este modo: ¿Qué significa enviar cada vez más soldados a la guerra con equipos cuyo hardware es hecho en China y el software programado en India?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Pero así como el software se ha vuelto de código abierto, también lo ha hecho la guerra. A diferencia de un portaaviones o una bomba atómica, no es necesario un sistema de fabricación masiva para construir robots. Muchos ya están a la venta. Incluso muchos son "hágalo usted mismo". Una de las cosas que acaban de ver pasar en frente es un Raven no tripulado, que se lanza con la mano. Con unos mil dólares se pueden construir uno equivalente a los que usan los soldados en Irak.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Esto plantea otro problema cuando se trata de guerras y conflictos. Los buenos podrían jugar y trabajar en ellos como kits de pasatiempo, pero también podrían hacerlo los malos. Este cruce entre robótica y cosas como el terrorismo resultará fascinante y hasta perturbador, y ya lo hemos visto comenzar.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Durante la guerra entre Israel, un estado y Hezbolá, un actor no estatal, el actor no estatal lanzó cuatro aviones no tripulados contra Israel. Ya existe un sitio web yihadista en el que se puede entrar y detonar a distancia un IED en Irak sentado desde su computadora.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Y entonces creo que vamos a ver surgir dos tendencias. La primera es que va a reforzar el poder de los individuos contra los gobiernos, pero la segunda es que vamos a ver una expansión en el ámbito del terrorismo. El futuro de esto prodría ser una mezcla entre Al Qaeda 2.0 y la próxima generación de Unabomber. Y otra forma de verlo es el hecho que, recuerden, no hay que convencer a un robot que recibirá 72 vírgenes después de su muerte para hacerlo inmolar.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Pero las repercusiones se van a hacer sentir en nuestra política. Una de las personas que conocí era un asistente del secretario de defensa de Ronald Reagan, y me dijo lo siguiente: "Me gustan estos sistemas porque salvan vidas americanas, pero me preocupa la comercialización de las guerras, el lenguaje sensacionalista que distrae la atención acerca de los costos. La gente es más propensa a apoyar el uso de la fuerza si ve que no cuesta nada".
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Para mí, los robots siguen ciertas tendencias que ya están jugando un papel importante en nuestra vida política y tal vez los llevan a su conclusión lógica. No tenemos ningún proyecto. Ya no hacemos declaraciones de guerra ni compramos bonos de guerra. Y ahora hay que considerar que cada vez más estamos reemplazando nuestros soldados americanos que mandaríamos al peligro por máquinas, y así poder superar los obstáculos que quedan en la guerra y hacerlos caer al suelo.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Pero el futuro de la guerra también va a ser una guerra en YouTube. Es decir, nuestras nuevas tecnologías no se limitan a alejar la gente del riesgo. También registran todo lo que ven. No solo desvinculan el público: redefinen su relación con la guerra. Ya hay miles de video clips de escenas de combates en Irak en este momento en Youtube, la mayoría filmados por aviones no tripulados.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Ahora, esto podría ser una cosa positiva. Podría crear conexiones entre el frente interno y el frente de guerra como nunca antes. Pero recuerden, todo esto sucede en nuestro extraño y bizarro mundo, y así, inevitablemente, la posibilidad de descargar estos video clips en el iPod o Zune nos da la capacidad para convertirlos en entretenimiento.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Los soldados tienen un nombre para estos videos. Los llaman pornografía bélica. Un ejemplo típico fue uno que me enviaron por email con un archivo adjunto de un video del ataque de un Predator a una base enemiga. Golpes de misiles, cuerpos volando por el aire por la explosión. Fue hecho con música. Era con la canción "I Just Want To Fly" de Sugar Ray.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Esta capacidad de ver más pero sufrir menos crea un desequilibrio en la relación del público con la guerra. Hago una comparación con el deporte. Es como la diferencia entre ver un partido de la NBA, un partido de baloncesto profesional en televisión, donde los jugadores son pequeñas figuras en la pantalla, y estar en el mismo partido en persona y darse cuenta cómo es realmente alguien de 2,10 metros.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Pero hay que recordar que estos son solo videos. Es solo la versión del partido de ESPN. Pierden el contexto. Pierden la estrategia. Pierden la humanidad. La guerra se convierte solo en mates y bombas inteligentes.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
La cosa irónica en todo esto es que mientras el futuro de la guerra puede involucrar cada vez más máquinas, es nuestra psique humana la que impulsa todo esto, son nuestros errores humanos los que están llevando a estas guerras.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Un ejemplo de esto que tiene gran resonancia en la esfera política es cómo se manifiesta en nuestra verdadera guerra de ideas que estamos librando contra los grupos radicales. Qué mensaje creemos que estamos enviando con estas máquinas, frente al mensaje que se está recibiendo del otro lado.
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Una de las personas que conocí era un alto funcionario del gobierno Bush, que dijo lo siguiente acerca de la deshumanización de la guerra: "Contribuye a nuestra fuerza. Lo que asusta a la gente es nuestra tecnología". Pero cuando conoces a la gente del Líbano, por ejemplo, es una historia muy diferente. Allá conocí a un editor de noticias. Mientras hablábamos, un avión no tripulado volaba sobre nosotros, y dijo esto al respecto: "Esto es otra muestra más de la insensibilidad de los israelíes y los americanos, que son cobardes porque envían máquinas para luchar contra nosotros. No quieren luchar contra nosotros como hombres de verdad, pero tienen miedo de luchar, así que es suficiente matar a algunos de sus soldados para derrotarlos".
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
El futuro de la guerra trae consigo un nuevo tipo de guerrero que en realidad está redefiniendo la experiencia de ir a la guerra. Se les puede llamar guerreros de cubículo. Fue así que un piloto de avión no tripulado Predator describió su experiencia de lucha en la guerra de Irak sin salir de Nevada: "Vas a la guerra durante 12 horas, disparas a los blancos, matas directamente a los enemigos, luego tomas el coche, conduces hasta tu casa y en 20 minutos estás sentado en la mesa hablando con tus hijos de sus tareas".
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Pues bien, el equilibrio psicológico de estas experiencias es increíblemente difícil, y de hecho los pilotos de aviones no tripulados tienen mayores índices de trastorno por estrés postraumático que muchas de las unidades físicas en Irak. Pero algunos temen que esta desconexión conducirá a otra cosa, que hará que sea más fácil aceptar los crímines de guerra cuando se tiene esta distancia. "Es como un videojuego", me dijo un joven piloto hablando del ataque de las tropas enemigas desde la distancia. Cualquiera que haya jugado Grand Theft Auto, sabe que en el mundo virtual hacemos cosas que nunca haríamos en la vida real.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Gran parte de lo que estoy diciendo es que hay otro aspecto de las revoluciones tecnológicas que está dando forma a nuestro presente, y quizás dará forma a nuestro futuro en la guerra. La Ley de Moore se aplica, al igual que la Ley de Murphy. La niebla de la guerra no se levanta. El enemigo tiene un voto.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Estamos ganando increíbles nuevas capacidades, pero también estamos viendo y experimentando nuevos dilemas humanos. A veces no son más que momentos "¡oops!", que es lo que el jefe de una compañía de robótica describió como "patinazos". Bien, ¿Cuáles son los patinazos de los robots en la guerra? Bueno, a veces son graciosos. A veces son como esa escena de la película con Eddie Murphy "La mejor defensa, ¡el ataque!", por ejemplo, cuando pusieron a prueba un robot que estaba armado, y durante la demostración, éste comenzó a girar en un círculo apuntando con sus ametralladoras hacia la tribuna de las personalidades. Afortunadamente el arma no estaba cargada y nadie resultó herido, pero otras veces los patinazos son trágicos, como el año pasado en Sudáfrica, donde un cañón antiaéreo tuvo un "problema de software", y en realidad se activó y disparó, matando a nueve soldados.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Existen nuevos escollos en las leyes de guerra y la rendición de cuentas. ¿Qué hacemos en situaciones como la masacre no tripulada? ¿Qué es masacre no tripulada? Ya hemos tenido tres casos de ataques con aviones no tripulados Predator donde pensábamos que tenían a Bin Laden, y resultó no ser así. Y ahí es donde estamos ahora. Ni siquiera estamos hablando de sistemas autónomos armados con plena autoridad para usar la fuerza. Y no creo que esto no vaya a suceder. Durante mi investigación me topé con cuatro diferentes proyectos del Pentágono sobre diversos aspectos del problema.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Y entonces surge la pregunta: ¿cómo plantear cuestiones relacionadas con crímenes de guerra? Los robots no tienen emociones, así que no se enojan si un compañero es asesinado. No cometen crímenes de rabia y venganza. Pero los robots no sienten emociones. Ven a una abuela de 80 años en silla de ruedas del mismo modo que ven un tanque T-80: ambos son solo una serie de ceros y unos. Debemos hallar entonces una respuesta a esta pregunta: ¿Cómo podemos adaptar nuestras leyes de guerra del siglo XX, tan viejas que podrían jubilarse, a estas tecnologías del siglo XXI?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Por último, he hablado de lo que parece ser el futuro de la guerra, pero tengan en cuenta que solo he usado ejemplos del mundo real y que solo han visto fotos y videos reales. Y esto representa un gran desafío del cual todos debemos preocuparnos, antes de tener que preocuparnos de que una aspiradora nos succione la vida. ¿Vamos a dejar que esto que está sucediendo en la guerra, solo porque suena a ciencia ficción nos mantenga en la negación? ¿Vamos a enfrentar la realidad de la guerra del siglo XXI? ¿Nuestra generación va a repetir el error que cometió una generación pasada con las armas atómicas, y no va a lidiar con las cuestiones que lo rodean sino hasta que la caja de Pandora esté abierta?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Ahora, yo podría estar equivocado, como afirmó un científico de robots del Pentágono diciendo: "No hay verdaderos problemas sociales, éticos y morales cuando se trata de robots. Es decir", añadió, "a menos que la máquina mate repetidamente a las personas equivocadas. Entonces es simplemente una cuestión de retiro del producto".
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Y el punto de esto es que podemos recurrir a Hollywood. Hace unos años, Hollywood reunió a los personajes más famosos y creó una lista de los 100 mejores héroes y los 100 mejores villanos de toda la historia de Hollywood, los personajes que representan lo mejor y lo peor de la humanidad. Solo un personaje aparece en ambas listas: Terminator, una máquina asesina. Y esto indica que nuestras máquinas pueden ser usadas ya sea para bien o para mal, pero para mí indica que hay una dualidad en el ser humano.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Esta semana celebramos nuestra creatividad. Nuestra creatividad ha llevado nuestra especie a las estrellas. Nuestra creatividad ha creado obras de arte y la literatura para expresar nuestro amor. Ahora estamos usando nuestra creatividad en una cierta dirección, para construir máquinas fantásticas con increíbles capacidades, y quizás, algún día, incluso una nueva especie. Pero una de las principales razones por las que hacemos esto se debe a nuestro instinto de destruirnos unos a otros. Por lo tanto, deberíamos preguntarnos: ¿son nuestras máquinas, o estamos auto diseñados para la guerra?
Thank you. (Applause)
Gracias. (Aplausos)