I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
전장의 이야기로 제 강연을 시작하겠습니다. 위험이 닥쳐 온다는 기미는 별로 없지요. 이라크 반체제파가 IED, 즉 급조된 폭발물을 길가 여기저기에 설치합니다. 2006년에는 이러한 공격이 매달 2500회를 헤아릴 정도로 발생해서 미군과 이라크 민간인이 죽고 다치게 되는 가장 큰 원인이 되었지요. IED를 탐색하고 해체하는 일을 하는 팀을 EOD라고 하는데 폭발물 처리반의 약자입니다. 이들이 하는 일은 길가의 폭탄에 관련된 미군의 임무중 가장 위험한 것이죠 각 EOD 팀은 폭탄을 제거하기 위해 매년 평균 600번, 즉, 하루에 약 2번 출동합니다. 그들이 이라크전에 얼마나 크게 기여하는가는 이라크 반란군이 각 EOD 대원의 목에 5만불의 포상금을 걸었다는 사실만 봐도 알 수 있습니다.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
불행히도 이 이야기는 비극적인 결과로 끝을 맺게 됩니다. EOD 대원이 폭발물에 연결된 전선을 볼 수 있을 정도로 폭발물에 접근했을 때 그 폭발물이 화염을 토하며 폭발했지요. 거리와 폭약의 양에 따라 IED가 폭발하면 사망하거나 부상을 당하는데 인명피해를 줄이려면 약 50 미터 정도는 떨어져 있어야 합니다. 파편에 맞지 않더러도 충격파로 팔다리가 부러질 수 있지요. 그 EOD 대원은 폭발물 위에 있었는데
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
다른 대원들이 그에게 다가갔을때는 남은 시신이 별로 없었지요. 그날 그 팀의 지휘관은 미국에 있는 죽은 팀원의 가족에게 위로의 편지를 쓰는 슬픈 임무를 이행하며 모든 팀원들이 그의 죽음을 받아들이기 힘들어 하고 있으며 그는 가장 용감한 군인이었고 그들의 생명을 여러번 구해 줬다는 이야기를 적어내려갑니다. 그리고 그는 죽은 동료를 본국으로 데리고 가지 못해서 미안하다는 말을 하지요. 그러나 그는 이런 비극적인 현실에도 한줄기의 희망의 빛이 있다고 말했지요. "만약 로봇이 죽는다고 해도 로봇의 어머니에게는 편지를 쓰지 않아도 됩니다" 라고 말합니다.
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
이것은 공상과학소설 처럼 들리지만 전장에서는 현실이지요. 여기서 말하는 EOD 대원은 무게가 약 20 kg정도 되는 PackBot라는 로봇입니다. EOD 팀장의 편지는 옛날 전쟁영화에서 나오는 것 처럼 아이오와에 있는 어떤 농가로 배달되는게 아니고 iRobot 이라는 회사로 배달되는데 그 회사의 이름은 아시모프 소설과 약간 썰렁한 윌 스미스 영화에 나오는 이름을 본따서 만든 ..(웃음) 그 소설과 영화에나오는 로봇들은 처음엔 허드레한 잡일만 하다가 나중에는 생사를 결정하는 결정을 내리게 되지요. 이것은 지금 우리가 당면한 현실입니다.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
저는 지금 여러분에게 사진을 몇장 보여드리겠는데 이들은 지금 우리가 이미 사용하고 있거나 또는 프로토타입 단계에 있는 로봇들입니다. 그냥 조금 보여드리겠습니다. 다시 말하자면 지금 여러분이 보실 것은 스타트랙의 벌칸 기술이나 철없는 10대의 아드레날린으로 작동하는 기계들이 아닙니다. 이건 다 실물들입니다. 자 이제 그런 사진을 몇장 보죠.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
지금 전장에서는 큰일이 벌어지고 있는데 어쩌면 인류 역사상 가장 신중한 일인지도 모르죠. 이락전 초기에 미국 무인정찰기는 불과 몇대 밖에 없었는데 지금은 5300대가 되지요. 전쟁 시작 당시에는 육상에서 쓰이는 무인 시스템이 하나도 없었는데 지금은 12,000개가 됩니다. '킬러 어플리케이션' 이라는 기술용어는 여기에서는 새로운 의미로 해석될 수 있지요.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
그런데 현재의 무인 시스템들은 앞으로 곧 소개될 시스템에 비하면 포드 모델 T 자동차나 라이트 형제의 비행기와 비슷합니다. 우리는 지금 그런 획기적인 시점에 있습니다. 제가 최근에 만났던 공군 3성 장군 한명은 "우리는 곧 전장에서 수만대의 로봇들을 사용할 것입니다"라고 말했지요. 이것은 중요한 숫자인데 그 이유는 이 숫자가 현재 사용하고 있는 로봇과 동일한 기능의 로봇을 말하는 것이 아니라 현재 개발단계 또는 미래의 로봇을 말하는 것이기 때문입니다. 기술 발전은 무어의 법칙을 따르기 때문에 이 로봇들의 컴퓨팅 능력은 계속 급속도로 늘어날 것입니다. 그래서 앞으로 25년간 무어의 법칙이 계속 적용된다면, 25년 후 로봇들의 컴퓨팅 파워는 오늘의 로봇에 비해 10억배는 더 강력해질 것입니다.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
그리고 이것은 지금까지는 코미콘 같은 공상과학 컨벤션에서나 다루던 화재를 이제는 펜타곤 같은 군사력의 중추에서 거론되어야 한다는 것을 의미합니다. 로봇 혁명은 우리 눈앞에 다가왔습니다.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
여기서 한가지 분명히 하고 싶은 것은 제가 지금 말하는 로봇 혁명은 캘리포니아 주지사가 터미네이터같은 모습으로 여러분의 집에 나타나는 것을 걸 말하는게 아니죠. (웃음)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
장래의 역사가들은 지금 우리가 새로운 종류의 혁명을 겪고 있다고 말할 것입니다. 즉, 원자폭탄과 같은 전쟁수단의 혁명을 말하는 것이지요. 그러나 어쩌면 이 무기혁명의 영향은 그보다 더 클 수 있는데 그 이유는
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
무인 로봇 시스템들은 단순히 "어떻게" 싸우냐는 것 뿐만아니라 "누구"가 싸우냐는 근본적인 질문도 야기하기 때문입니다. 기관총이나, 원자폭탄같은 지금까지의 전쟁 도구의 혁신적인 발전은 얼마나 더 빨리 또는 더 멀리 총을 쏘거나 또는 더 큰 폭발을 일으킬 수 있는가를 의미했지요. 이점은 로봇도 마찬가지지요. 하지만, 로봇은 전쟁을 하는 사람들의 경험뿐만 아니라 전쟁을 하는 사람들의 신분마저 바꿀 것입니다.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
다시 말하자면, 지난 5000년간 인간은 인류의 전쟁을 독점했었지만 우리세대에서 그 바통을 로봇에게 넘겨주게 됐다는 말입니다. 저는 지난 몇년간 동안 로봇 과학자들에서부터 그들에게 영감을 불어넣은 SF물 저자들, 네바다 출신의 19세 무인공격기 조종사, 그들에게 명령을 내리는 4성장군, 그리고 심지어는 이들 폭탄의 타겟이 되는 이락 반군들에게도 무인로봇 시스템에 대한 의견을 물었지요. 그들과의 대화를 통해 제가 흥미있게 느꼈던 것은 그들의 이야기 뿐만아니라 그들의 경험이 앞으로 우리의 사회, 법률, 도덕 등에 어떠한 영향을 미치게 될것인가 였지요. 저는 남은 시간 동안 이러한 토픽중 몇가지에 대해 말하고자 합니다.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
첫 번째로 제가 이야기하려는 것은 미래의 전쟁은 미국만 로봇 전투 능력을 가진 전쟁이 되지 않을 것이라는 점입니다. 미국은 현재 군용 로봇에서 선두적인 위치에 있습니다. 하지만 우리가 잘 알다시피 기술에 관한 한 먼저 시작했다고 해서 항상 우위를 차지한다는 법은 없지요. 제가 간단한 질문을 드리죠. 지금 여러분 중에서 아직도 Wang 컴퓨터를 사용하는 분이 계신가요? (웃음) 전쟁도 마찬가지입니다. 탱크는 영국과 프랑스가 발명했지요. 그러나 실지로 쓸만한 탱크를 만들어 낸 나라는 독일이었지요. 그래서 지금은 미국이 앞서 있지만 지금 현재 43개의 다른 나라들이 군용 로봇들을 개발하고 있는데 그런 나라들에는 러시아, 중국, 파키스탄 같은 국가들이 포함된다는 것을 명심해야 한다는 것입니다.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
이것은 제게 큰 걱정을 안겨줍니다. 미국의 제조업, 과학 그리고 교육 실정을 생각해 볼때 우리는 앞으로 군사로봇 혁명을 어떻게 맞이해야 할까요? 이 문제를 다른 측면에서 보자면 우리 군인들의 하드웨어는 중국에서 만들어지고 소프트웨어는 인도에서 개발되는 있는 실정에서 우리가 전쟁에 임한다는 것은 무엇을 뜻할까요?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
컴퓨터 소프트웨어가 Open-source 방식으로 변했듯이 전쟁 장비도 마찬가지로 변했지요. 항공모함이나 원자폭탄과는 달리 군사로봇의 제조에는 거대한 생산 시설이 필요하지 않습니다. 부품의 많은 수는 시판되는 제품을 쓸 수 있고 일부는 자가제작도 가능합니다. 지금 방금 보신 사진중의 하나에는 Raven이라는 무인비행체가 있는데 이것은 손으로 던져서 날릴 수 있고, 약 1000달러의 경비로 이라크에서 군인들이 사용하는 것과 비슷한 것을 자가제작 할 수 있지요.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
이러한 사실은 전쟁에서 새로운 문제점을 야기하지요. 즉, 청군만 이런 값싼 장비를 사용할 수 있는게 아니고 홍군도 그럴 수 있으니까요. 로봇과 테러리즘 같은 것을 합치면 그 결과는 매우 흥미있을 수도 있고 매우 염려될 수도 있습니다. 우리는 이미 이런 양면적인 경우를 경험했지요.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
이스라엘 국가와 비국가 단체인 헤즈볼라간에 전쟁이 벌어졌을때 헤즈볼라가 이스라엘을 상대로 네가지 종류의 무인비행기를 날려보냈지요. 이미 집에 앉아서 컴퓨터로 이락에 있는 급조폭발장치를 폭발시킬 수 있게 하는 지하드의 웹사이트가 이미 존재합니다.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
저는 앞으로 다음의 두가지가 현실화 될 것이라고 생각합니다. 그 첫번째는, 정부에 대항할 수 있는 개개인의 힘이 증대될 것이고 그 두번째는 테러리즘의 무대가 확장될 것이라는 것입니다. 앞으로는 아마 알카에다 2세와 차세대 유나바머 엘리트 테러범의 잡종같은 것이 나올 가능성이 많이 있습니다. 달리 말하자면, 로봇에게는 자살폭탄 테러범으로 죽으면 72명의 처녀를 선물받게 된다고 설득시킬 필요가 없다는 거죠.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
이러한 테러의 여파는 우리의 정치에 영향을 주게 될 것입니다. 저는 전 국방부 차관보인 로널드 레이건과 대화를 나눈적이 있었는데 그는 다음과 같이 말했지요: "저는 군사로봇을 좋아합니다. 미국인의 생명을 보호해주니까요. 하지만 저는 군사비용에 대한 토론을 저지하기 위해 전쟁의 시장화 또는 '충격과 공포' 이야기를 하는 것에 대해 염려합니다. 사람들은 비용이 들지 않는다고 생각하면 무력사용을 지지할 가능성이 더 많지요."
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
제 생각에는 로봇은 우리의 정치체에 이미 존재하는 모종의 추세를 따르고 있는데 로봇은 결국에는 그런 움직임의 논리적인 결론에 도달하게 될지 모릅니다. 우리에겐 징병제도가 없고 우리는 더이상 선전포고도 안하지요. 그리고 전쟁채권도 더이상 사지 않지요. 그리고 이제는 점점 군인 대신에 로봇을 위험한 사지로 보내고 있으며, 이미 툭하면 전쟁을 시작하는 사람들이 더 쉽게 전쟁을 시작하게 만들지도 모릅니다.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
또한, 미래의 전쟁은 Youtube 전쟁이 될 것입니다. 우리의 신기술은 전쟁의 위험으로 부터 우리를 보호해 줄 뿐만 아니라 모든 전쟁 상황을 기록할 것입니다. 이들은 대중을 전쟁으로 부터 격리시킬 뿐만아니라, 대중과 전쟁과의 관계를 재설정 할 것입니다. 유튜브에는 이락의 전투 장면을 보여주는 수천개의 동영상들이 이미 올라와있지요. 대부분은 무인비행기로 찍은 것이죠.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
이것은 좋은 일일지도 모릅니다. 전과는 달리, 전장터의 상황을 우리가 직접 볼 수 있을 테니까요. 그러나 우리는 이런 일들이 우리가 살고있는 괘상한 세상에서 실지로 일어나고 있다는 것을 명심해야 합니다. 사람들은 이러한 동영상을 IPOD이나 Zune로 다운해서 전쟁을 오락화 할지도 모릅니다.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
군인들은 이런 동영상들을 전쟁 포르노라고 부르지요. 이런 전쟁 포르노의 전형적인 예의 하나는 제가 이메일의 첨부파일로 받은 비데오인데 그 비디오에는 프레데터라는 무인공격기가 미사일로 적군기지를 공격하여 적군의 시체가 박살나는 장면이 있었습니다. 배경음악도 있었는데 그 음악은 Sugar Ray가 부른 "I Just Want to Fly"라는 팝송이였지요.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
이와같이 전쟁 이미지는 더 많이 보지만 실제 전쟁 경험이 줄어들면 대중이 전쟁을 대하는 태도에 문제가 생기게 되지요. 이 문제를 스포츠 경기에 비유하자면 이것은 마치 TV 화면에 작게 축소돼서 나오는 프로농구 NBA 선수들만 보다가 하루는 경기장에서 그들을 직접 눈으로 보고 과연 7feet(213cm)의 사람이 어떻게 생겼는지 처음으로 깨닫는 것과 마찬가지 이지요.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
그러나 우리는 이것이 단순히 무비클립이라는 것을 잊지 않아야 합니다. 우리는 전쟁 동영상은 ESPN 채널의 농구선수 이미지에 해당한다는 것을 항상 명심해야 합니다. 그렇지 않으면 현실성을 잃게되지요. 전쟁 동영상은 인간성을 망각시키고 전쟁을 단순히 슬램덩크나 정밀유도폭탄으로 단순화 시킬 수 있습니다.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
여기서 아이러니한 것은, 미래의 전쟁에서 군사로봇에 대한 의존도가 점점 더 높질지는 모르지만 긍국적으로는 그런 변화의 원동력은 인간의 심리이며 우리의 잘못은 전쟁으로 이어진다는 것입니다.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
인간의 심리와 결점이 우리가 과격파와 벌이고 있는 사상전쟁에 어떤 영향을 미치는가는 이들이 우리의 정책에 미치는 영향을 보면 알 수 있습니다. 우리는 군사로봇을 통해 어떤 메시지를 그들에게 보내고 있다고 생각하며, 한편 그들은 실제로 메시지를 받고 있을까요?
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
제가 만난 사람 중에 하나는 부시 정부의 관료이었는데 그는 무인 전쟁에 대해서 다음과 같은 이야기를 했지요: "우리는 우리의 강점을 활용하죠. "우리의 적은 우리의 기술을 두려워합니다" 하지만 예를들면 레바논 같은 곳에 있는 사람들을 만나보면 아주 다른 이야기를 들을 수 있지요. 저는 레바논에서 뉴스 편집장 한명을 만났는데 마침 무인정찰기 한대가 날라갔지요. 그는 그때 이렇게 말했지요: "이건 차고 잔인한 이스라엘인과 미국인들의 또 다른 모습의 하나의입니다. 그들은 겁쟁이기 때문에 사람답게 싸우는 것을 원하지 않을 뿐만 아니라 싸우기를 두려워합니다. 그렇기 때문에 그들을 몇명만 죽이면 우리는 이깁니다".
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
미래의 전쟁은 새로운 종류의 군인이 싸울 것입니다. 그리고 그것은 전쟁이라는 것을 새로 정의하게 될것입니다. 우리는 이들을 "사무실 용사"라고 부를 수 있겠지요. 미국의 네바다 기지에서 이락에 있는 프레데터 무인정찰기를 조종하는 파일럿 한명은 다음과 같이 말했지요. "저는 12시간동안 전쟁터에서 적군에 총을 쏘고 적군에 쏘는 로켓을 조절하지요. 그리고는 퇴근을 하고 차를 타고 귀가하지요. 집에 도착한 20분 이내에 저녁 식사 테이블에 앉아서 아이들과 숙제 이야기를 하지요"
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
매일 이렇게 극과 극을 왔다갔다 하는 생활을 하는것은 심리적으로 매우 힘듣지요. 무인정찰기 조종사들의 외상 후 스트레스 장애(PTSD) 발병확률은 이락에서 직접 싸우는 군인보다 더 높지요. 또한, 일부 사람들은 이러한 신체적 분리는 다른 영향을 미칠 수도 있다고 생각하는데, 예를들면 전쟁범죄가 더 쉽게 발생할 수 있지 않을가 하는 걱정도 있습니다. 한 젊은 조종사는 멀리서 적군을 죽이는 것이 "완전히 비디오 게임 같다" 고 말했지요. GTA라는 비디오 게임을 해본 사람은 우리는 비디오 게임에서 현실에서 못하는 행동을 한다는 것을 잘 알지요.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
그래서 제가 여러분께 드리는 말의 욧점은 전쟁기술의 혁명에는 다른 측면이 있는데 그것은 기술혁명이 우리의 현재와 어쩌면 미래 전쟁의 양상을 정해줄지 모른다는 것입니다. 무어의 법칙도 작용하지만 머피의 법칙도 역시 작용하지요. 전쟁의 불확실성은 아직도 남아있지요. 적도 투표권을 가지고 있지요.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
우리의 엄청난 무인전투능력은 계속 확대되고 있지만 우리는 또한 새로운 인간 딜레마들을 보고 경험하고 있습니다. 어느 로봇회사의 대표자 한명이 그들이 말하는 소위 "어이쿠" 순간에 대해 저에게 설명해 주었지요. "그건 어이쿠 순간이었어"라고 말하죠. 로봇전쟁의 '어이쿠' 순간은 어떤것일까요? 어떤때는 우수운 일이 생겼을때 그런말을 하지요. 예를들어 에디머피의 영화 슈퍼탱크작전에 나오는 상황이 실지로 벌어질 때도 그런 감탄사를 사용하지요. 즉, 기관총이 장착된 로봇을 시위하다가 잘못해서 신장비를 리뷰하기 위해 모인 VIP에게 기관총을 겨누는 장면이지요. 다행히도 장전된 상태가 아니었기 때문에 피해자는 없었지만요. 그러나 어이쿠 순간이 비극으로 치닫는 경우도 있는데, 그 예로 작년에 남아프리카공화국에서"소프트웨어 결함"으로 대공캐논이 발포되며 9명의 남아공 군인을 죽인 사고가 발생했었지요.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
우리는 현재 전쟁법규와 행동책임이라는 새로운 문제를 안고 있습니다. 예를들면 무인살육은 어떻게 처리해야 할까요? 무인살육이란 무엇일까요? 우리는 이미 프레데터 무인정찰기로 빈라덴의 거처라고 생각되는 곳을 3번이나 폭격했는데 나중에 알고 보니 아니였어요. 이것이 무인전투장비의 현황입니다. 저는 지금 여기서 자체적인 판단으로 화력을 사용하는 자동 무장시스템을 말하는 것도 아닙니다. 그러나 그런 날이 오지 않는다고는 생각하지 마십시오. 저는 제연구를 통해 펜타곤이 현재 4개의 무인무장체제 프로젝트를 추진하고 있다는 것을 알고 있습니다.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
여러분은 무인시스템의 경우 전범 이슈를 어떻게 해결할 것인지 궁금해 하실지 모릅니다. 로봇들은 감정이 없기 때문에 그들의 동료가 죽어도 화내지 않습니다. 그들은 분노나 복수를 이유로 전범을 범하지 않습니다. 하지만 로봇들은 감정이 없기 때문에 휠체어에 있는 80세의 할머니나 T80 탱크를 구별하지 않지요. 그들에게는 둘다 다 0과 1의 데이터로 보이니까요. 그래서 우리는 정부로 부터 무료 의료치료를 받을수 있을 만큼 노후화된 현재의 20세기 전쟁법규를 21세기의 전쟁기술에 맞도록 개정하는 방안을 찾아내야 합니다.
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
마지막으로, 제가 지금까지 미래의 전쟁에 대해 이야기한것처럼 들릴지 모르지만 제가 사용한 모든 예는 현재 사용되는 무인무기체계이며 또한 여러분이 보신 사진과 비디오도 기존 시스템이라는 점을 기억하시기 바랍니다. 전쟁 로봇에 대한 걱정은 룸바같은 청소 로봇이 시람을 빨아 먹으면 어떻게 하냐는 걱정보다 훨씬 더 현실성이 있는 걱정입니다. 지금 현재 전쟁에서 실지로 사용되는 전쟁로봇이 너무나 공상과학 소설같이 생각돼서 사람들이 믿지않는다면 그대로 나둬야 할까요? 우리는 21세기의 현실을 인정할 것인가요? 전세대가 원자폭탄에 대해 아무런 조치를 취하지 않았던 것과 같은 실수를 우리들이 되풀이 해서 이런 문제들이 판도라 상자에서 나올때까지 이런 이슈들을 다루지 않아도 좋을까요?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
그런데, 제가 틀렸을지도 몰르죠 - 펜타곤의 한 로봇 과학자가 제 생각이 틀렸다고 말했으니까요. 그는 "로봇에 관한한 실질적으로 사회적 또는 도덕적인 이슈가 없다" 고 말했지요. 그는 "로봇들이 엉뚱한 사람들을 계속 죽이면 제품 리콜을 하면 돼요" 라고 덧붙여 말했지요.
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
제 이야기의 결론은 -- 아, 헐리우드의 예를 들면 되겠군요. 몇년전에 할리우드에서 영화 역사상 가장 인기가 많았던 100대 영웅과 100대 악당들의 리스트를 만들었는데 이 캐릭터들은 인간성의 최선와 최악을 상징하는 캐릭터들이었지요. 그런데 양쪽 리스트에 올라간 캐릭터는 단 하나밖에 없었는데 그건 바로 로봇을 죽이는 터미네이터였습니다. 이것은 로봇은 좋은 목적으로 사용될 수도 있고 나쁜 목적으로도 사용될 수 있다는 것을 제시하지요. 저는 이것은 인간의 양면성을 보여주기도 한다고 생각합니다.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
이번 주는 우리의 창의성을 축하하는 주이며 우리의 창의력은 인류를 별까지 닿게했습니다. 우리의 창의력은 예술품과 문학작품을 통해 우리의 사랑을 표현할 수 있게 했으며 우리는 이제 우리의 창의력으로 엄청난 기능을 가진 놀라운 기계들을 만들고 있으며 언젠가는 완전히 새로운 종을 만들게 될지도 모릅니다. 우리가 이런일을 하는 주된 이유의 하나는 우리에게 서로를 파괴시키려는 욕구가 있기 때문인데 그렇기 때문에 우리는 전쟁하는 회로를 가진 것이 우리의 로봇인지 아니면 우리 자신인지를 질문해야 합니다.
Thank you. (Applause)
감사합니다. (박수)