I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Pensei começar com uma cena de guerra. Havia pouco que alertasse para o perigo iminente. Os rebeldes iraquianos tinham colocado um engenho explosivo, um engenho explosivo improvisado, na berma da estrada, com grande cuidado. Em 2006, houve mais de 2500 destes ataques todos os meses. Foram a principal causa das baixas entre os soldados americanos e os civis iraquianos. A equipa que procura esses explosivos chama-se uma equipa ENE, Equipa de Neutralização de Explosivos. São a ponta de lança do esforço americano para suprimir estas bombas nas estradas. Cada ENE recebe cerca de 600 alertas destas bombas, por ano, e desativa cerca de duas bombas por dia. O melhor sinal de como são valiosos para o esforço de guerra, é que os rebeldes iraquianos oferecem um prémio de 50 000 dólares pela cabeça de cada soldado da ENE.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Infelizmente, este alerta em especial não iria acabar bem. Na altura em que o soldado se aproximou o suficiente para ver os fios denunciadores da bomba, ela explodiu numa onda de chamas. Consoante a proximidade a que estejamos, e a quantidade de explosivos dentro da bomba, ela pode provocar a morte ou apenas ferir. Temos que estar, no mínimo a 50 metros, para escapar. A explosão é tão forte que pode partir-nos as pernas mesmo que não nos toque. Aquele soldado estava em cima da bomba.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Quando o resto da equipa avançou, pouco restava dele. Naquela noite, o comandante das unidades cumpriu um triste dever e escreveu uma carta de condolências para os EUA. Contou como aquela perda tinha afetado a sua unidade, como tinham perdido o seu soldado mais corajoso, um soldado que lhes tinha salvo a vida mais de uma vez. E pedia desculpa por não ter sido capaz de o levar para casa. Mas, depois, falou do que havia de bom naquela perda. "Pelo menos", escreveu, "quando morre um robô, "não temos que escrever uma carta para a mãe dele".
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Esta cena parece uma cena de ficção científica, mas é já uma realidade no campo da batalha. O soldado, neste caso, era um robô de 21 quilos, chamado PackBot. A carta do chefe era dirigida, não a uma quinta no Iowa, como se vê nos velhos filmes de guerra, mas para a Sociedade iRobot assim chamada conforme o romance de Asimov e o filme de Will Smith, não muito bom. (Risos) Se se recordam, naquele mundo de ficção, os robôs começaram por realizar tarefas vulgares depois começaram a tomar decisões de vida ou de morte. É uma realidade que conhecemos hoje.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Agora vou mostrar rapidamente uma série de fotos, por detrás de mim, que mostram a realidade dos robôs usados hoje na guerra ou já em fase de protótipos. Só para vos dar uma ideia. Por outras palavras, não vão ver nada alimentado por tecnologia vulcânica ou por hormonas de feiticeiros adolescentes ou coisas desse género. Tudo isto é real. Portanto, vamos ver as imagens.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Passa-se hoje qualquer coisa de grande na guerra e talvez na história da humanidade. O exército dos EUA foi para o Iraque com meia dúzia de drones no ar. Hoje temos 5300. Fomos sem qualquer sistema terrestre sem piloto Hoje temos 12 000. O termo técnico "aplicação que mata" assume um novo significado neste espaço.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Temos que nos lembrar que estamos a falar dos Fords T, dos aviões dos irmãos Wright, em comparação com o que virá em breve. É aí que estamos agora. Encontrei-me há pouco com um general de três estrelas da Força Aérea. Disse-me que caminhamos muito em breve para dezenas de milhares de robôs a funcionar nos conflitos. Estes números são importantes porque não estamos a falar apenas de dezenas de milhares dos robôs atuais mas de dezenas de milhares destes protótipos e dos robôs de amanhã, porque uma das coisas que está a funcionar na tecnologia é a Lei de Moore. Podemos incorporar nestes robôs cada vez maior potência de cálculo. Dentro de 25 anos, se é que a Lei de Moore está certa, estes robôs serão mil milhões de vezes mais potentes no cálculo do que hoje.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Isto significa que o tipo de coisas de que só falávamos nas convenções de ficção científica, como a Comic-Con, devem ser discutidas hoje nos salões do poder e em locais como o Pentágono. Temos à porta uma revolução de robôs.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Preciso de ser muito claro. Não estou a falar duma revolução em que temos de recear que o governador da Califórnia apareça à nossa porta como o Exterminador.
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Quando os historiadores analisarem esta época, vão concluir que estamos num tipo diferente de revolução: uma revolução na guerra, como a invenção da bomba atómica. Mas ainda pode ser maior do que isso, porque os nossos sistemas sem piloto
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
não afetam apenas o "como" da guerra, afetam "aqueles" que combatem a um nível mais fundamental. Ou seja, todas as revoluções prévias na guerra, quer as metralhadoras, quer a bomba atómica, basearam-se num sistema que disparava mais depressa, ia mais longe, tinha uma explosão mais forte. Isso também acontece com a robótica, mas ela também altera a experiência do combatente e até a identidade do combatente.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Por outras palavras, o monopólio que a humanidade tem, desde há 5000 anos, na guerra, está a desaparecer, na nossa época. Passei estes últimos anos a encontrar-me com todos os atores desta área, desde os cientistas de robôs aos autores de ficção científica que os inspiraram aos pilotos de drones, de 19 anos, que combatem a partir do Nevada, aos generais de quatro estrelas que os comandam, até mesmo aos rebeldes iraquianos que são o alvo e o que eles pensam dos nossos sistemas. O que achei interessante não foram só as suas histórias, mas como a sua experiência reflete o efeito cascata que atinge a nossa sociedade, as nossas leis, a nossa ética, etc. No tempo que me resta gotaria de desenvolver alguns destes tópicos.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Primeiro, o futuro da guerra, mesmo que seja uma guerra robótica, não será exclusivamente americano. Os EUA estão atualmente à frente na robótica militar, mas sabemos que, na tecnologia, não há avanço nem vantagem permanente. Levante a mão quem, aqui na sala, ainda usa um computador Wang. (Risos) O mesmo acontece na guerra. Os britânicos e os franceses inventaram o tanque, e os alemães descobriram como usá-lo da melhor forma. Precisamos pois de pensar que os EUA estão na liderança agora, mas há outros 43 países pelo mundo fora a trabalhar em robótica militar. Nessa lista encontram-se países interessantes, como a Rússia, a China, o Paquistão e o Irão.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Isso ainda me deixa mais preocupado. Como nos mantemos à frente, no meio desta revolução, dado o estado atual das nossas manufaturas, da nossa ciência e do ensino da matemática nas nossas escolas? Outra forma de pensar no assunto é: o que significa ir para a guerra com soldados cujo hardware é cada vez mais produzido na China e cujo software é desenvolvidos na Índia?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Tal como o software passou a ser de fonte aberta, acontece o mesmo com a guerra. Ao contrário de um porta-aviões ou de uma bomba atómica, não precisamos de um sistema de fabrico maciço para construir robôs. Há muitas peças de venda livre e outras podemos montá-las. Uma das imagens que viram foi de um drone Corvo, que era lançado manualmente. Por 1000 dólares, podemos construir um, equivalente ao modelo que os soldados usaram no Iraque.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Isto gera outro problema, quando se trata de guerra e conflito. Pessoas boas podem brincar e trabalhar com essa tecnologia como um passatempo, mas as pessoas más também. A encruzilhada entre robótica e coisas como o terrorismo será fascinante e alarmante. Já vimos o começo. Durante a guerra entre Israel, um estado,
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
e o Hezboullah, um não-estado, o ator não-estado lançou quatro drones diferentes contra Israel. Já há um site jehadi na Internet onde podemos detonar à distância um engenho explosivo improvisado no Iraque a partir do nosso computador em casa.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Acho que iremos ver instalarem-se duas tendências Primeiro, haverá uma intensificação da força de indivíduos contra governos. Em segundo lugar, iremos assistir à expansão do terrorismo. O terrorismo futuro poderá ser uma mistura entre a Al Qaeda 2.0 e a próxima geração do Unabomber Podemos ainda ver isso de outra forma. Lembrem-se, não é preciso convencer um robô de que ele irá ganhar 72 virgens depois de morrer, para o convencer a fazer-se explodir.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Mas as repercussões vão chegar à política. Uma das pessoas com quem me encontrei foi o ex-secretário adjunto da Defesa de Ronald Reagan. Foram estas as suas palavras: "Gosto destes sistemas "porque poupam vidas americanas, "mas preocupo-me com a mercantilização das guerras, "com toda essa conversa de "choque e terror" "para desviar atenção da discussão dos custos. "As pessoas apoiarão mais provavelmente o uso da força "se ela não tiver um custo alto."
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Para mim, os robôs representam certas tendências que já atuam no nosso corpo político e levem-nas talvez ao seu destino lógico. Não temos alistamento obrigatório. Já não temos declarações de guerra. Já não compramos títulos de guerra. E agora estamos cada vez mais a transformar em máquinas os nossos soldados americanos que vão enfrentar o perigo. Podemos talvez levar para a guerra este padrão já baixo e rebaixá-lo ainda mais.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Mas o futuro da guerra também será uma guerra YouTube. Isto é, as nossas novas tecnologias não só afastam os seres humanos do risco, mas também gravam tudo o que veem. Não só se distanciam do público, como também remodelam toda a sua relação com a guerra. Já há hoje milhares de videoclips com cenas de combate no Iraque disponíveis no YouTube. A maior parte delas foi captada por drones.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Isso podia ser positivo. Podia estabelecer ligação entre a frente doméstica e a frente na guerra, como nunca existiu. Mas lembrem-se, isso está a acontecer no nosso estranho e bizarro mundo. Inevitavelmente, a possibilidade de descarregar esses videoclipes para o nosso iPod ou Zune permite que isso passe a ser uma forma de entretenimento.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Os soldados já têm um nome para esses clipes. Chamam-lhes a pornografia da guerra. Eu recebi um muito típico. Era um email com um vídeo em anexo de um ataque de um Predator aniquilando uma base inimiga. Ataque com mísseis, corpos pelo ar depois da explosão. E tinha uma música de fundo, uma canção pop chamada "Eu só quero voar", de Sugar Ray.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Esta possibilidade de observar cada vez mais, mas de viver cada vez menos gera distorções na relação do público com a guerra. Posso traçar um paralelo com o mundo do desporto. É a mesma diferença entre assistir na televisão a um jogo de basquetebol do NBA, em que os atletas são apenas pequenas figuras no ecrã, e estar presente pessoalmente nesse jogo e ver ao vivo uma pessoa com mais de dois metros de altura.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Temos que nos lembrar que são apenas videoclips. São apenas versão do jogo da cadeia ESPN. Perdem o contexto, a estratégia, a humanidade. A guerra resume-se a "Slam Dunks" e bombas inteligentes
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
A ironia de tudo isto é que, enquanto o futuro da guerra vai depender cada vez mais de máquinas, é a nossa psicologia humana que propulsiona tudo isso, são as nossas falhas que levam a essas guerras.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Um exemplo que tem muita repercussão no mundo da política é como isso afeta a nossa real guerra de ideias que estamos a travar contra grupos radicais. Qual é a mensagem que achamos que estamos a enviar com todas estas máquinas, versus o que está a ser recebido em termos da mensagem?
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Encontrei-me com um funcionário sénior da administração Bush que me disse isto sobre a nossa desumanização da guerra: "Isto fortalece-nos ainda mais. "O que amedronta as pessoas é a nossa tecnologia." Mas quando nos encontramos com pessoas, por exemplo, no Líbano, a história é bem diferente. Uma das pessoas que lá encontrei era um editor jornalístico. Conversávamos enquanto um drone nos sobrevoava. Foi isto o que ele disse: "Isso é apenas mais um sinal da frieza, "da crueldade dos israelitas e dos americanos, "que são cobardes porque enviam máquinas para lutar contra nós. "Não querem lutar como homens de verdade, têm medo de lutar. "Por isso, precisamos de matar alguns dos seus soldados "para derrotá-los."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
O futuro da guerra também trará um novo tipo de combatente. E isso irá redefinir toda a experiência bélica. Podemos chamar-lhes combatentes de cubículo. Foi assim que um piloto do drone Predator descreveu a sua experiência como combatente na Guerra do Iraque, apesar de nunca ter deixado Nevada: "Vamos para a guerra durante 12 horas, "disparando contra alvos, planeando a eliminação de combatentes inimigos. "Depois entramos no carro e voltamos para casa. "Vinte minutos depois estamos sentados a jantar, a conversar com os filhos sobre os trabalhos da escola."
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
É muito difícil lidar com o impacto psicológico de todas essas experiências. A verdade é que estes pilotos de drones sofrem de maiores índices de Stress Pós Traumático do que muitos dos soldados que estiveram fisicamento no Iraque. Mas há quem se preocupe que esse distanciamento possa levar a outras consequências. Pode facilitar a contemplação de crimes de guerra quando há esse distanciamento. "É como um vídeo jogo", foi como um piloto me descreveu a sua experiência de ataque à distância contra os seus inimigos. Todos os que jogaram o Grand Theft Auto sabem que fazemos coisas no mundo virtual que não faríamos se estivéssemos cara a cara com a situação.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Grande parte do que eu estou a dizer é que há um outro lado nas revoluções tecnológicas, que está a definir o nosso presente e irá remodelar talvez o futuro da guerra. A Lei de Moore é operacional, mas a Lei de Murphy também é. A névoa que cobre a guerra não está a dissipar-se. O inimigo tem razão: estamos a ganhar novas capacidades incríveis.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Mas também estamos a ver e a viver novos dilemas humanos. Às vezes temos momentos a que chamamos momentos "oops". O chefe de uma empresa de robótica descreveu-os assim: "Nós temos momentos ''oops". E o que são esses momentos com robôs e guerra? Às vezes são engraçados. Às vezes são como aquela cena do filme do Eddie Murphy, A Melhor Defesa É o Ataque, quando testam um robô armado com uma metralhadora. Durante a demonstração o robô começa a girar em círculos e aponta a metralhadora para toda a comitiva dos VIPS. Felizmente a arma não estava carregada e ninguém se feriu. Mas outras vezes esses momentos "oops" são trágicos, como no ano passado na África do Sul, em que um canhão antiaéreo teve uma "falha de software" foi acionado e disparou. Morreram nove soldados.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Também há novas falhas nas leis da guerra e da responsabilidade. O que fazemos sobre coisas como um massacre não tripulado? O que é um massacre não tripulado? Já tivemos três casos de ataques de drones Predator em que pensámos que tínhamos eliminado Bin Laden. Mas no final vimos que não era o caso. Esse é o ponto onde estamos agora. E nem sequer estamos a falar de sistemas armados autónomos, com plena autorização para uso da força. Não pensem que isso não acontecerá. Durante a minha pesquisa encontrei quatro projetos distintos do Pentágono sobre diferentes aspetos dessa questão.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Eis que surge a pergunta: Quais as implicações para problemas como crimes de guerra? Os robôs não têm sentimentos, por isso não ficam preocupados quando morre um companheiro. Não praticam crimes de raiva e vingança. Mas os robôs não têm sentimentos. Veem uma velhinha de 80 anos numa cadeira de rodas da mesma forma que veem um tanque T80. Não passam ambos de uma série de zeros e uns. O problema é este: Como podemos equiparar as nossas leis de guerra do século XX, que já estão praticamente ultrapassadas, às novas tecnologias do século XXI?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Para concluir, já falei do que poderá ser o futuro da guerra, mas reparem que só usei exemplos do mundo real. Vocês só viram fotos e vídeos do mundo real. Isso cria um grande desafio para todos nós. Precisamos de nos preocupar com isso antes de nos preocuparmos com outras coisas menos importantes. Vamos deixar que o que está a acontecer hoje na guerra pareça ficção científica e fiquemos num estado de negação? Vamos encarar a realidade da guerra do século XXI? Irá a nossa geração fazer os mesmos erros das gerações passadas, com armas atómicas sem tratar dos problemas com ela relacionados até que a caixa de Pandora se abra?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Eu posso estar enganado, como me disse um cientista do Pentágono: "Não há questões reais, sociais, éticas ou morais quando se trata de robôs, "a menos que a máquina mate as pessoas erradas repetidamente. "Nesse caso temos um problema de recall de produto."
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
A conclusão de tudo isso é que podemos de facto voltar-nos para Hollywood. Aqui há uns anos, Hollywood juntou todos os seus principais personagens e criou uma lista dos seus 100 maiores heróis e dos 100 maiores vilões da história de Hollywood. Eram os personagens que representavam o melhor e o pior da humanidade. Só havia um personagem que aparecia nas duas listas: O Exterminador do Futuro, uma máquina mortífera robótica. Isso mostra-nos que as nossas máquinas podem ser usadas para o bem e para o mal. Mas para mim isso também é um claro exemplo da dualidade do ser humano. Esta semana celebra nossa criatividade.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
A nossa criatividade já levou a nossa espécie até as estrelas. A nossa criatividade já criou obras de arte e de literatura que exprimem o nosso amor e agora estamos a usar a nossa criatividade numa certa direção para criar máquinas espetaculares, com enormes capacidades. Talvez um dia possamos criar toda uma nova espécie. Mas uma das razões que nos leva a fazer isso é a nossa determinação para nos destruirmos uns aos outros. Então, a pergunta que todos devemos fazer é: Quem está programado para guerra: são as nossas máquinas ou nós mesmos? Muito obrigado.
Thank you. (Applause)
(Aplausos)