I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Pensei em começar com uma cena de guerra. Havia pouco alerta sobre o perigo à frente. O insurgente iraquiano havia colocado o IED, um Dispositivo Explosivo Improvisado, ao longo da beira da estrada com muito cuidado. Até 2006, havia mais de 2.500 desses ataques todo mês, e eram a causa principal das casualidades entre soldados americanos e civis iraquianos. A equipe que caçava este Dispositivo Explosivo Improvisado é chamada de equipe EOD -- Artilharia de Neutralização de Explosivos -- e são as equipes com maior risco de vida do esforço americano para subjugar essas bombas de beira de estradas. Cada equipe EOD lida com cerca de 600 desses alertas de bombas todo ano, desativando cerca de duas bombas por dia. Talvez o melhor sinal de quão valiosas as equipes são para com o esforço da guerra, é que os insurgentes iraquianos oferecem 91.000 reais pela cabeça de um único soldado EOD.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Infelizmente, este alerta em particular não acabaria bem. Quando o soldado avançou suficientemente perto para ver os fios reveladores da bomba, ela explodiu numa onda de fogo. Agora, dependendo de quão próximo você está e da quantidade de explosivos comprimida dentro da bomba, ela pode causar morte ou ferimento. Você tem que ficar até 45 metros de distância para conseguir escapar. A explosão é tão forte que pode até mesmo quebrar seus membros, mesmo que você não tenha sido atingido. Esse soldado estava em cima da bomba.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
E então, quando o resto da equipe avançou eles pouco encontraram. E naquela noite, foi o triste dever do comandante da unidade escrever uma carta de condolências aos EUA na qual ele falava sobre o quão difícil tinha sido a perda para a unidade, o fato que tinham perdido o soldado mais corajoso, um soldado que tinha salvado as suas vidas muitas vezes. E ele pedia desculpas por não poder trazê-lo de volta para casa. Mas então ele falou sobre o lado positivo dessa perda. “Pelo menos,” ele escreveu, “quando’ um robô morre, não precisamos escrever uma carta para a mãe dele.”
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Este cena soa como ficção cientifica, mas é a realidade do campo de batalha. O soldado nesse caso era um robô de 19 quilos chamado PackBot. A carta foi enviada, não a alguma fazenda em Iowa como se vê nos filmes de guerra antigos, mas sim para a Companhia iRobot, cujo nome deriva de um romance de Asimov e o não tão bom filme com Will Smith, e … hum … (Risos) ... se você lembrar que no mundo fictício, os robôs começaram fazendo tarefas mundanas, e depois começaram a tomar decisões sobre vida e morte. Esta é a realidade que encaramos atualmente.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
O que vamos fazer é, na verdade, apenas rapidamente mostrar uma série de fotos mostrando a realidade dos robôs utilizados na guerra no momento ou já em fase de protótipo. Isso é apenas para lhe dar uma ideia. Uma outra forma de ver isto é que você não verá nada que seja agilizado pela tecnologia da Vulcan, ou hormônios de adolescentes feiticeiros ou qualquer coisa assim. Isso tudo é real. Então, por que não prosseguimos e mostramos estas imagens?
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Algo grande está acontecendo nas guerras hoje, e talvez até mesmo na historia da humanidade. As forças armadas americanas foram para o Iraque com um punhado de ‘drones’ (bombardeiros não tripulados) no céu. Agora temos 5.300. Fomos com zero sistemas terrestres não tripulados. Agora temos 12.000. E o termo técnico “aplicação assassina” passa a ter um significado inédito neste espaço.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
E precisamos lembrar que estamos falando sobre o Ford Modelo T (o Ford Bigode), os aviadores Wright, em comparação com o que estará chegando em breve. Que é onde estamos agora. Uma das pessoas que encontrei recentemente foi um general com três estrelas da Força Aérea e ele basicamente disse, que logo teríamos dezenas de milhares de robôs em operação nos nossos conflitos, e esses números são importantes porque não estamos apenas falando de dezenas de milhares de robôs de agora, mas dezenas de milhares desses protótipos e os robôs do futuro, porque obviamente, uma das coisas que opera em tecnologia é a Lei de Moore: que você pode incorporar mais poder de computação nesses robôs, e então avançar cerca de 25 anos, se a Lei de Moore é válida, esses robôs serão perto de um bilhão de vezes mais potentes na sua computação do que são hoje.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
E então, o que isso significa é que o tipo de coisas que estamos acostumados a discutir nas convenções de ficção científica como Comic-Con serão discutidas nos salões do poder e lugares como o Pentágono. Uma revolução robótica está muito próxima.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Agora, preciso deixar bem claro aqui. Não estou falando sobre uma revolução em que você precisa se preocupar que o governador da California apareça na sua casa, a la o Terminador. (Risos)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Quando historiadores estudarem essa era, irão concluir que passamos por um tipo de revolução diferente: uma revolução da guerra, como a invenção da bomba atômica. Porém, poderá ser ainda maior do que isso, porque os nossos sistemas não tripulados não apenas
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
afetam o “como” do combate, eles afetam o “quem” em combate em seu nível mais rudimentar. Ou seja, cada revolução da guerra anterior seja a metralhadora, seja a bomba atômica, era sobre um sistema que aconteceu mais rápido, teve um avanço, teve um crescimento maior. Com certeza isso é o caso da robótica, mas eles também mudam a experiência do guerreiro e até mesmo a sua identidade.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Uma outra maneira de por isto é que o monopólio de 5.000 anos de combate de guerra está se desmoronando durante nossa vida. Eu passei os últimos anos percorrendo lugares, me encontrando com todos os jogadores deste campo, desde cientistas na área da robótica até autores de ficção cientifica que os inspiraram, desde pilotos dos drones de 19 anos que combatem de Nevada, aos generais de quatro estrelas que os comandam, até mesmo os insurgentes do Iraque que os têm como alvo e o que eles pensam sobre os nossos sistemas e, o que achei interessante não foi apenas suas historias, mas como suas experiências apontam para estes efeitos cascata que influenciam nossas sociedade, nossas leis nossas éticas, etc. E então, o que eu gostaria de fazer com o restante da minha palestra é basicamente falar em detalhe sobre dois deles.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Então o primeiro é que o futuro da guerra, mesmo a robótica, não será puramente uma guerra americana. Os EU atualmente estão na vanguarda da robótica militar, mas sabemos que com tecnologia não existe essa coisa de um primeiro passo permanente ou vantagem. Rapidamente levantem as mãos, quantas pessoas nesta sala ainda usam Wang computadores? (Risos) É as mesma coisa na guerra. Os britânicos e os franceses inventaram o tanque. Os alemães descobriram como usá-lo, então o que precisamos fazer é pensar que para os EU, no momento, nós estamos à frente, mas você tem 43 outros países lá fora, trabalhando em robótica militar incluindo todos os países interessantes como Rússia, China, Paquistão, Iran.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
E isso gera uma preocupação maior para mim. Como levamos adiante essa revolução considerando o estado da nossa fabricação e o estado do ensino da nossa ciência e matemática em nossas escolas? Ou uma outra forma de pensar nisso é, o que significa ir à guerra, com soldados cujo equipamento é fabricado na China e o software é programado na Índia?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Mas, da mesma maneira como software tornou-se código aberto o mesmo aconteceu com a guerra. Ao contrário de um porta-aviões ou uma bomba atômica, você não precisa de um sistema de fabricação em massa para construir robôs. Boa parte disso tem estoques disponíveis. Muito disso é faça-você-mesmo. Uma dessas coisas que acabou de passar diante dos seus olhos foi um drone corvo, o que é lançado a mão. Por cerca de 1.800 reais, você pode construir um você mesmo, o equivalente ao usado pelos soldados no Iraque.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Isto levanta uma outra questão quando se trata de guerra e conflito. Os caras bons podem brincar e trabalhar neles como kits de passatempo, e trabalhar neles como kits de passatempo, Este cruzamento entre robótica e coisas como terrorismo vai se tornar fascinante e até mesmo perturbador, e já vimos o seu começo.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Na guerra entre Israel, um estado e o Hezbolá, um ator não-estatal, o ator não-estatal lançou quatro drones diferentes contra Israel. Já existe um site jihadista o qual você pode visitar e detonar à distância um IED no Iraque enquanto você está em seu computador em casa
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
E então acho que vamos ver a sucessão de duas tendências. A primeira é que você vai reforçar o poder dos indivíduos contra os governos, mas a segunda é que vamos ver uma expansão no domínio do terrorismo. O futuro disso poderá ser um cruzamento entre Al Qaeda 2.0 e a próxima geração do Unabomber. E uma outra forma de pensarmos sobre isto é o fato, lembre-se de que você não precisa convencer um robô que ele vai ganhar 72 virgens após sua morte, para convencê-lo a fazer-se explodir
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Mas os efeitos cascata disso entrarão dentro da nossa política. Uma das pessoas com quem me encontrei foi o antigo Assistente do Secretário de Defesa de Ronald Reagan, e ele disse o seguinte: “Eu gosto desses sistemas porque eles salvam vidas americanas, mas me preocupo com a marketização das guerras, mais conversas choque-pavor, para custear as discussões sobre custos As pessoas são mais propensas a apoiar o uso da força se entendem que elas não custam nada.”
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Robôs, para mim, têm certas tendências que já funcionam no nosso corpo político, e talvez os levem ao seu lógico ponto final. Nós não temos serviço militar obrigatório. Não temos mais declarações de guerra. Não compramos mais títulos de guerra. E agora, nós temos o fato que cada vez mais nós convertemos nossos soldados americanos, os quais nós enviaríamos ao perigo, em máquinas; e assim podemos pegar aqueles impedimentos existentes de guerra e abandoná-los.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Mas o futuro da guerra também será uma guerra do YouTube. Ou seja, nossas novas tecnologias não apenas eliminam os riscos para os humanos. Eles também gravam tudo o que veem. Assim eles simplesmente não se desconectam do público: eles reformulam sua relação com a guerra. Já existem milhares de clipes de vídeo de filmagens de combate do Iraque no YouTube, neste momento, a maior parte recolhidas por drones.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Agora, isto poderia ser uma boa coisa. Isto poderia construir conexões entre a frente interna e a frente de guerra como nunca antes. Mas lembre-se, isto está acontecendo em nosso mundo estranho, esquisito, e assim, inevitavelmente, a capacidade de baixar esses vídeo clipes para o seu iPod ou seu Zune lhe oferece a capacidade de os transformar em divertimento.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Soldados têm um nome para estes clipes. Eles os chamam de pornô-guerra. Um exemplo do que me enviaram foi um email que tinha um anexo de um vídeo de um ataque de Predator eliminando um site inimigo. Ataques de míssil, corpos explodindo no ar devido à explosão. Era configurado com música. Configurado com a música pop "I Just Want To Fly" por Sugar Ray.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Esta capacidade de ver mais mas sentir menos cria um empecilho na relação entre o público e a guerra. Eu penso nisso com um paralelo esportivo. É como a diferença entre assistindo um jogo da NBA, um jogo de basket na TV no qual os atletas são figuras pequeníssimas na tela, e indo ver o jogo de basket ao vivo e realizando como alguém com 2.10 m. realmente se parece.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Mas precisamos nos lembrar, que eles são simplesmente clipes. Eles são apenas a versão do jogo do Centro de Esportes ESPN. Eles perdem o contexto. Perdem a estratégia. Perdem a humanidade. A guerra é reduzida a “slam dunks” e bombas inteligentes.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
Agora, a ironia de tudo isso é que enquanto o futuro da guerra poderia envolver muito mais máquinas, é a nossa psicologia humana que força tudo isso, são as nossas fraquezas humanas que nos levam as essas guerras.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Um exemplo disso que tem grande repercussão na esfera política é de que forma isso esgota a nossa verdadeira guerra de ideias que nós estamos lutando contra grupos radicais. Qual é a mensagem que pensamos estar mandando com essas máquina versus o que está sendo recebido em termos da mensagem.
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Uma das pessoas que encontrei foi um funcionário sênior da Administração de Bush, que disse o seguinte sobre nossa guerra não tripulada: "Ela é vantajosa para nossa força. A única coisa que assusta as pessoas é a nossa tecnologia." Mas quando você encontra com pessoas, por exemplo, no Líbano, a história é muito diferente. Uma das pessoas com quem tive um encontro foi um redator chefe e conversávamos enquanto um drone voou sobre ele, e é isso que ele tinha a dizer. “Isto é apenas mais um sinal da crueldade insensível de israelenses e americanos, que são covardes pois enviam máquinas para lutar contra a gente. Eles não querem lutar como homens de verdade, mas eles têm medo de lutar, então temos que matar alguns dos seus soldados para derrotá-los.”
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
O futuro da guerra retrata um novo tipo de guerreiro, e está, na verdade, redefinindo a experiência do ir para a guerra. Você pode chamar isso de guerreiro de cubículo. Foi assim que um piloto do drone Predator descreveu sua experiência de combate na guerra do Iraque sem sequer sair de Nevada. “Você está indo para a guerra por 12 horas, atira nos alvos com armas, diretamente mata os inimigos, e depois você pega seu carro e vai pra casa e em 20 minutos você está sentado em volta da mesa de jantar falando com seus filhos sobre seus deveres de casa.”
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Bom, o equilíbrio psicológico dessas experiências é incrivelmente difícil, e, de fato, estes pilotos têm taxas mais elevadas de TEPT do que muitos daqueles nas unidades no Iraque. E algumas pessoas se preocupam que esta desconexão levará a uma outra coisa, que poderia fazer o contemplar de crimes de guerra muito mais fácil quando se tem esta distância. “É como um jogo de vídeo,” é como um piloto jovem descreveu para mim o eliminar das tropas inimigas de longe. Como qualquer pessoa que já jogou Grand Theft Auto sabe, fazemos coisas no mundo do vídeo que não faríamos cara a cara.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Muito do que você me ouviu falar é que há um outro aspecto das revoluções tecnológicas, que molda o nosso presente e poderá moldar o nosso futuro da guerra. A Lei de Moore está em operação, mas a Lei de Murphy também está. A névoa da guerra não levantou. O inimigo tem um voto.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Estamos ganhando novas habilidades incríveis, mas também estamos presenciando e tendo experiências dos novos dilemas humanos. Agora, às vezes eles são apenas momentos “oops” (mancada), e foi assim que o chefe de uma empresa de robótica os descreveu, você simplesmente tem momentos “oops”. Bem, quais são os momentos “oops” nas guerras robótica? Bem, às vezes eles são engraçados. Às vezes, eles são como uma cena do filme com Eddie Murphy “A melhor defesa é o ataque”, encenando realidade, quando testavam um robô armado com uma metralhadora e durante a demonstração ele começa a rodar num círculo e aponta a arma para o palanque dos VIPs. Felizmente a arma estava desarmada e ninguém fica ferido, mas em outras ocasiões os momentos “oops” são trágicos, tal como aconteceu no ano passado na África de Sul, quando um canhão anti-aéreo teve uma "falha de software" e, de fato, ligou e atirou e nove soldados foram mortos.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Nós temos novos obstáculos nas leis de guerra e responsabilização. O que fazer em situações como massacres não tripulados? O que é um massacre não tripulado? Já tivemos três casos de ataques do bombardeiro não tripulado Predador onde pensamos que tínhamos capturado Bin Laden e descobriu-se que não era o caso. E é onde estamos neste momento. Isso não é nem se falando de sistemas armados autônomos com plena autoridade para usar a força. E não pense que isto não está prestes a acontecer. Durante a minha pesquisa me deparei com quatro projetos diferentes do Pentágono nos aspectos diferentes da autonomia.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
E então surge a pergunta: como se levantar questões como crimes de guerra? Os robôs não têm emoções, eles não ficam tristes se seu companheiro é morto. Eles não cometem crimes de ódio e vingança. Mas os robôs não têm emoções, Eles veem uma avó de 80 anos de idade numa cadeira de rodas da mesma forma que veem um tanque T-80: são ambos apenas uma série de zero e um. Então nós temos que resolver esta questão: Como podemos atualizar as nossas leis de guerra do século XX que são tão obsoletas E então, resumindo, eu falei sobre a essas tecnologias do século XXI?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
E então, resumindo, eu falei sobre o que parece ser o futuro da guerra, mas note que somente usei exemplos do mundo real e você somente viu imagens do mundo real e vídeos. E então, isto apresenta um grande desafio para todos nós que têm que se preocupar muito antes de se preocupar com o seu Roomba sugando a sua vida de você Será que vamos ignorar o fato que o que está sendo desvelado agora na guerra soa como ficção cientifica e portanto nos mantém em negação? Será que vamos enfrentar a realidade da guerra do século XXI? Será que nossa geração vai cometer o mesmo erro que a geração passada cometeu com as armas atômicas e não lidar com as questões que as cercavam até que a caixa de Pandora se abrisse?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Agora, eu poderia estar errado nisso e um cientista de robótica do Pentágono me disse que eu estava. Ele disse: “Não há verdadeiras questões sociais, éticas e morais quando se trata de robôs. Isto é,” ele acrescentou, “ a não ser que a máquina mate pessoas erradas repetidas vezes. Aí então é apenas uma questão de mandar o produto de volta.”
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
E assim, o final desse ponto é que na verdade podemos recorrer a Hollywood. Alguns anos atrás, Hollywood reuniu todos os personagens principais e criou uma lista dos top 100 heróis e os top 100 vilões de toda a historia de Hollywood, os personagens que melhor representaram o melhor e o pior da humanidade. Apenas um personagem alcançou as duas listas: ‘O Exterminador do Futuro’, uma máquina robô de matar E então, isto indica o fato que nossas máquinas podem ser usadas para o bem e para o mal, mas para mim isto indica o fato que há uma dualidade dos humanos também.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Esta semana é uma comemoração da nossa criatividade. Nossa criatividade levou nossas espécies às estrelas. Nossa criatividade criou trabalhos de arte e literatura para expressar nosso amor. E agora, usamos nossa criatividade numa certa direção, para construir máquinas de capacidades incríveis, talvez quem sabe um dia uma espécie inteiramente nova. Mas uma das razões principais que estamos fazendo isto é por causa da nossa vontade de destruir-nos uns aos outros, e então todos nós deveríamos perguntar: são as nossas máquinas ou somos nós que estamos ligados na guerra?
Thank you. (Applause)
Obrigado. (Aplausos)