I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Давайте начнём с эпизода военных действий. Ничего не предвещало опасности. Иракский повстанец аккуратно разместил самодельное взрывное устройство на обочине. К 2006 году каждый месяц совершалось более 2 500 таких нападений, и они были основной причиной потерь среди американских солдат и мирных жителей Ирака. Поиском и обезвреживанием фугасов занималось подразделение по обезвреживанию взрывчатых боеприпасов. Оно находится на первом месте по борьбе с подобными бомбами на дорогах. Ежегодно такое подразделение выезжает примерно на 600 вызовов, обезвреживая в среднем 2 мины в день. Пожалуй, лучшим знаком их достижений в войне является то, что иракские повстанцы назначили награду в 50 000 долларов за голову любого сапёра.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
К сожалению, данное задание закончилось печально. Когда солдат был достаточно близко, чтобы увидеть идущие к бомбе провода, бомба исчезла в клубке огня. В зависимости от расстояния до заряда и количества взрывчатки в нём взрыв может убить или покалечить. Шансы уцелеть есть, если расстояние более 50 метров. Взрыв такой силы может переломать конечности, даже если осколки ушли мимо.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Наш солдат был прямо над бомбой. Когда товарищи подбежали, они почти ничего не нашли. Вечером командир подразделения выполнял печальный долг: он писал письмо с соболезнованиями в США. В нём говорилось, что это была тяжёлая потеря для подразделения, что они потеряли самого храброго из храбрых, солдат неоднократно спасал жизнь другим. Командир просил прощения за то, что не смог вернуть его домой живым. Но потом он упомянул светлую сторону этой трагедии. «По крайней мере, когда гибнет робот, вам не надо писать письмо его матери».
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Звучит как научная фантастика, но это уже реальность поля боя. В этом случае солдатом был двадцатикилограммовый робот «ПэкБот». Письмо командира отправилось не на ферму где-то в Айове, как в старых фильмах о войне, а в фирму iRobot Company, названную в честь романа Азимова и не очень удачного фильма с Уиллом Смитом, и… хм… (Смех) Возможно, вы помните, что в этом выдуманном мире роботы сначала выполняли рутинную работу, и лишь потом приняли на себя решение вопросов жизни и смерти. Именно это происходит сегодня.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Сейчас на экране за моей спиной пройдёт серия фотографий роботов, уже используемых в военных действиях или находящихся на стадии прототипов, чтобы вы почувствовали происходящее. Сформулируем это так: вы не увидите ничего такого, что основано на инопланетных технологиях или магических заклинаниях Гарри Поттера. Это обыденная реальность. Давайте взглянем на эти изображения.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
В ведении боевых действий, как и в жизни человечества в целом, идут огромные перемены. Американская армия вошла в Ирак с дюжиной беспилотников в воздухе. Сейчас их 5 300. Наземных беспилотных систем не было ни одной. Сейчас их 12 000. Технический термин «убийственная программа» приобретает специфический смысл.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Не забывайте: то, что мы имеем сейчас, — это уровень автомобилей Генри Форда и самолётов братьев Райт по сравнению с тем, что будет завтра. Такова обстановка на сегодня. Недавно я встречался с генерал-лейтенантом американских ВВС. По его словам, в ближайшем будущем в конфликтах будут задействованы десятки тысяч роботов. Эти цифры важны ещё и потому, что речь идёт о десятках тысяч не нынешних роботов, а устройств завтрашнего дня, которые ещё только создаются. Один из законов, действующих в технике, — это закон Мура. С каждым годом в робота можно поместить всё больше вычислительной мощности. Представьте, что будет через 25 лет. Если закон Мура не потеряет силу, вычислительная мощность роботов будущего будет в миллиард раз больше сегодняшней.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Это означает, что те вещи, о которых мы привыкли говорить на конференциях по научной фантастике типа Комик-Кон уже должны обсуждаться в коридорах власти вроде Пентагона. Революция роботов уже начинается.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Хочу немного уточнить. Я не имею в виду революцию, при которой в вашу дверь постучится губернатор Калифорнии в обличье Терминатора. (Смех)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Изучая этот период, историки скажут, что это была революция другого типа: революция в военных действиях типа изобретения атомной бомбы. Но масштаб изменений сегодня гораздо больше. Беспилотные системы меняют не только то,
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
как ведутся войны, но и то, кто воюет. Любая предыдущая революция в ведении военных действий — пулемёт, атомная бомба и т.п. — заключалась в задаче стрелять дальше, стрелять быстрее, либо стрелять громче. Это справедливо и для роботизации войны, но она также меняет ощущения войны и даже саму личность воина.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Можно сказать, что 5 000 лет монополии человечества на ведение войны заканчиваются на наших глазах. Последние несколько лет я провёл, встречаясь с людьми, для которых это не просто слова: специалистами по робототехнике, писателями фантастических книг, вдохновлявших их, 19-летними пилотами беспилотников, воюющими из Невады по всему миру, 4-звёздными генералами, командующими ими, и даже их целями — иракскими повстанцами. Всё для того, чтобы понять, что они думают об этих системах. Их рассказы ценны не только сами по себе, но и как свидетельство тех изменений, что как круги по воде расходятся по всему нашему обществу, задевая закон, этику и прочее. В оставшееся время я как раз хотел затронуть пару таких изменений.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Прежде всего, будущее войны, даже роботизированной, не принадлежит только Америке. На сегодняшний день США впереди в военной робототехнике, но все мы знаем, что в технологии не может быть вечного опережения или преимущества. Поднимите руки, если кто-то из вас всё ещё использует специализированные компьютеры Уонга? (Смех) В войне то же самое. Англичане и французы изобрели танк. Немцы нашли ему применение. Мы здесь, в США, должны думать о том, что на данный момент мы впереди всех, но кроме нас в мире есть 43 других государства, работающих над военными разработками, и среди них такие примечательные как Россия, Китай, Пакистан, Иран.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
И здесь мы переходим к другой проблеме. Как мы сможем продвигаться в этой области при нашем нынешнем уровне производства, уровне преподавания естественных наук и математики в наших школах? Другими словами, как мы можем вести войну с «солдатами», для которых «железо» делается в Китае, а программы пишутся в Индии?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Подобно программам с открытым кодом, оружие стало общедоступным. В отличие от авианосца или атомной бомбы, для создания робототехники не нужны производственные цеха. Многое можно купить уже готовым. Многое можно даже сделать самому. На одном из кадров вы видели беспилотник, запускавшийся толчком руки. Примерно за 1 000 долларов вы можете сделать своими руками аналог того, что наши солдаты используют в Ираке.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Это создаёт ещё одну проблему в войнах и конфликтах. Хорошие парни могут сделать такие игрушки своим хобби. Но это же могут делать и злодеи. Сочетание робототехники и терроризма будет невероятным, очень тревожным, и процесс этот уже начался.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Во время войны между Израилем, государством, и движением «Хезболла», не имеющим государства, последнее использовало против Израиля 4 беспилотника. Уже существует веб-сайт джихада, с которого вы можете удалённо подорвать фугас в Ираке, сидя дома перед компьютером.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Думаю, в будущем мы увидим развитие действий по двум линиям. Во-первых, возрастёт сила личности в противостоянии государству, во-вторых, мы увидим расширение возможностей терроризма. Его будущее будет в симбиозе «Аль-Каиды» нового уровня и следующего поколения террористов-одиночек. Подумайте вот о чём: не забывайте, вам не нужно убеждать робота, что после смерти на небесах его будут ждать 72 девственницы, чтобы уговорить его взорвать себя.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Всё это скажется и на нашей политике. Одним из тех, с кем я встречался, был бывший помощник министра обороны у Рейгана, и он высказался так: «Мне нравятся эти системы, потому что они спасают жизни американцев, но меня беспокоит усиление рекламы войны, разговоры в духе «шок и ужас», заглушающие обсуждение цены. Людям легче одобрить использование силы, когда им кажется, что это ничего не стоит».
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Те тенденции, которые уже существуют в нашей политике, роботы просто доводят до логического завершения. У нас нет призыва в армию. Мы больше не объявляем войну. Мы не покупаем облигации военных займов. Тот факт, что всё больше американских солдат, подвергающихся опасности, являются машинами, позволяет снизить и без того низкую смертность на войне практически до нуля.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Но будущие войны будут вестись также и на YouTube. Имеется в виду, что новые технологии не только отдаляют людей от опасности. Они ещё и фиксируют всё увиденное. Они не просто отдаляют общество от войны: они изменяют отношение общества к войне. Уже сейчас несколько тысяч видеороликов с боевыми действиями в Ираке выложены на YouTube. Большинство снято беспилотниками.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Это может быть хорошо. Это может укрепить связи между тылом и фронтом как никогда ранее. Но не забудьте, это происходит в нашем странном, причудливом мире. И возможность загрузить эти видеоролики на ваш Айпод или Зун неизбежно даст вам возможность превратить их в развлечение.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
У солдат есть специальное имя для этих роликов. Военная порнография. Например, я получил в приложении к электронному письму — видео удара «Предатора» по группе людей. Взрыв ракеты, тела взлетают в воздух. И всё это на фоне музыки. Для фона кто-то выбрал песню Шугар Рэя «Я просто хочу летать».
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Эта возможность увидеть больше, а чувствовать меньше всё больше сказывается на отношении общества к войне. Можно провести параллель со спортом. Такая же разница существует между просмотром игры профессионалов НБА по телевизору, когда крошечные фигурки бегают по экрану, и видом с первого ряда трибун, когда понимаешь, как в реальности выглядит кто-то выше двух метров ростом.
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Мы должны помнить, что это всего лишь ролики, трансляция игры по спортивному каналу. Теряется контекст. Теряется стратегия. Теряется гуманизм. Остаются удары по кольцу и умные бомбы.
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
Ирония происходящего в том, что в то время, как в будущих войнах будет воевать всё больше и больше машин, именно людская психология будет в их основе, именно человеческие слабости будут приводить к началу войны.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
Хорошим примером этого, имеющим большой резонанс в нашей политике, может быть использование этой темы в той войне идей, которую мы ведём против радикальных группировок. Что мы, как нам кажется, пытаемся сказать, посылая куда-то эти машины, и как это воспринимает другая сторона?
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Одним из тех, с кем я встречался, был высокопоставленный чиновник администрации Буша, который сказал следующее по поводу нашего «обезличивания» войны: «Это увеличивает нашу силу. Наша технология — как раз то, что пугает людей». Но если вы встретитесь с кем-то вне коридоров власти где-нибудь в Ливане, то услышите совсем другое. Когда я разговаривал там с редактором новостей, над его головой пролетал беспилотник. Вот что он сказал по этому поводу: «Это ещё одно доказательство того, что американцы и израильтяне — жестокие и бессердечные трусы. Они посылают машины воевать с нами потому, что не хотят сражаться как настоящие мужчины. Они боятся воевать, так что нам будет достаточно убить несколько их солдат, чтобы победить их».
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
В будущей войне также появится новый тип воина, меняющий само понятие участия в военных действиях. Его можно назвать офисным воином. Именно так один из пилотов «Предатора» охарактеризовал своё участие в войне в Ираке, не покидая Невады. «12 часов ты находишься на войне, стреляя боевыми снарядами по целям, убивая вражеских солдат, а потом ты садишься в машину и едешь домой. Через 20 минут ты сидишь за обеденным столом, обсуждая с детьми их домашние задания».
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Удержать психику в равновесии при таких переходах невероятно сложно. В реальности у таких пилотов уровень посттравматического синдрома выше, чем во многих подразделениях на поле боя в Ираке. Но есть опасения, что эта отстранённость может иметь последствия. Такое дистанцирование может облегчить путь к военным преступлениям. «Похоже на видеоигру», — так один молодой пилот описывал мне уничтожение противника на расстоянии. Любой игравший в Grand Theft Auto знает, что в игре мы совершаем поступки, которые никогда бы не сделали в реальном мире.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Этим я хочу сказать, что существует другая сторона технологической революции. Она меняет ведение войны сегодня и, возможно, повлияет на будущие конфликты. Действует не только закон Мура, но и законы Мёрфи. Туман войны не рассеялся. У противника тоже есть выбор.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
У нас появляются невероятные новые способности, но в то же время мы стоим перед тяжёлым выбором. Иногда это просто неприятные случайности, как сказал директор одной робототехнической фирмы. «Просто так вышло». Как выглядят такие «случайности» с роботами на войне? Да, иногда они смешные. Но иногда это похоже на сцену из фильма «Лучшая защита», только в реальной жизни. На испытаниях робота, оснащённого пулемётом, во время демонстрации его начальству машина начала крутиться по кругу, поочерёдно направляя дуло на важных персон на трибуне. К счастью, оружие не было заряжено, и никто не пострадал. Но такие «случайности» могут привести к трагедии, как в прошлом году в Южной Африке, где из-за сбоя в программном обеспечении настоящее зенитное орудие включилось и выстрелило. Погибли 9 солдат.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Появились спорные места в законах войны. Что делать с убийством, совершённым машиной? Что такое убийство без человека? Уже были три случая ударов беспилотников по местам, где, как предполагалось, находился бен Ладен. Как оказалось, это были ошибки. Такова ситуация сегодня. И речь тут ещё не идет об автономных системах вооружения, самостоятельно принимающих решение атаковать. И не надейтесь, что такого не будет. Проводя своё расследование, я натолкнулся на 4 разных проекта Пентагона по разным аспектам этой проблемы.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Вопрос в следующем: куда это приведёт в таких ситуациях как военные преступления? У роботов нет эмоций, у них нет нервных срывов из-за гибели друга. Они не совершают преступления в припадке ярости или ради мести. У роботов нет эмоций. Для них нет принципиального отличия между 80-летней старухой в инвалидной коляске и танком Т-80: и то, и другое — просто набор нулей и единиц. Перед нами стоит проблема: как законы войны ХХ века, настолько устаревшие, что их можно считать антиквариатом, привести в соответствие
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
с технологиями XXI века? В заключение хочу заметить: я говорил вроде бы о будущих войнах, но при этом использовал только примеры из наших дней, показывал только реальные фото и видео. За этим скрывается проблема, о которой надо задуматься уже сейчас, оставив на потом страхи перед роботом-пылесосом, высасывающим из вас жизненные соки. Можем ли мы не обращать внимания на всё то, что проявляется в военных действиях прямо перед нашими глазами только потому, что это похоже на научную фантастику? В силах ли мы осознать реалии? Неужели мы в XXI веке повторим ошибку предыдущего поколения с ядерным оружием, закрывая глаза на возникающие проблемы, пока ящик Пандоры не будет открыт? Конечно, я могу ошибаться.
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Один пентагоновский специалист по роботам так мне и сказал. По его словам, «нет никаких социальных, этических, моральных проблем, связанных с роботами». «Кроме тех случаев, — добавил он, — когда машина неоднократно убивает не тех людей. Тогда это просто вопрос возврата брака».
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
И в завершение рассказа обратимся к Голливуду. Несколько лет назад там перебрали всех главных героев и создали два списка: 100 величайших героев и 100 величайших злодеев в истории Голливуда. Персонажей, воплотивших всё лучшее и худшее в человечестве. И только один персонаж попал в оба списка: Терминатор, робот-машина для убийства. Это указывает на то, что наши машины можно использовать и во имя добра, и во имя зла. Но для меня это демонстрирует и двойственность человеческой натуры.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Эта неделя — праздник нашей изобретательности. Именно эта черта позволила нашему виду полететь к звёздам. Она создала шедевры искусства и литературы для выражения нашей любви. Сейчас мы используем нашу изобретательность для создания фантастических машин с невероятными возможностями, которые в один прекрасный день, возможно, даже станут новым видом. Но одна из главных сил, движущих созданием этих чудес, — наше желание уничтожать друг друга. Мы должны задать себе вопрос: кто в реальности создан для войны — машины или мы?
Thank you. (Applause)
Спасибо. (Аплодисменты)