Помислих си, че ще започна със сцена от война. Малко предупреждение за опасностите занапред. Иракски бунтовник беше поставил СВУ, самоделно взривно устройство по протежение на пътя, с голямо внимание. През 2006 год. имаше повече от 2 500 такива атаки всеки месец, и те бяха водещата причина за нещастни случаи сред американските войници и иракските цивилни граждани.
I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians.
Отрядът, който преследваше за тези СВУ се наричаше ООБ -- отряд за обезвреждане на боеприпаси -- и те бяха "върхът на копието" в американските усилия да се справят с тези крайпътни бомби. Всеки отряд се отзоваваше на около 600 обаждания за такива бомби, всеки ден, обезвреждайки около две бомби на ден. Може би най-добрият знак, за това колко ценни са те в усилията си във войната е, че иракските бунтовници даваха 50 000 долара възнаграждение, за главата на един войник от отряда.
The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
За съжаление, точно това повикване, няма да завърши добре. По времето когато войникът доближи достатъчно близо, за да види сигналните жици на бомбата, тя експлодира във вълна от пламъци. Сега, в зависимост от това колко близо си и колко експлозив е вложен в тази бомба, тя може да причини смърт или раняване. Трябва да бъдеш на около 50 ярда, за да избегнеш това. Взривът е толкова силен, че може дори да разкъса крайниците, дори да не сте ударен. Този войник е бил точно над бомбата.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
И когато останалите от отряда напредват, намерили много малко останало от него. Същата вечер, командирът свършил тъжното си задължение и написал съболезнователно писмо обратно до САЩ, разказал колко е трудно да се понесе загубата от отряда, за факта, че са загубили най-смелия си войник, войникът, който е спасявал животите им много пъти. И се извинил, че няма да му бъде възможно да го върне у дома. Но тогава той заговори за ползите, които беше извлякъл след загубата. "Най малкото," докато пишеше, "когато робот умре, не се налага да пишеш писмо до майка му."
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Тази сцена звучи като научна фантастика, но е вече реалност от бойното поле. Войникът от този случай беше робот, тежащ 42 паунда (19 килограма) и се казваше ПакБот. Писмото отиде, не в някаква ферма в Айова, както виждате в старите военни филми, а отиде в компанията iRobot (Аз роботът), която наречена така по романа на Азимов, и не толкова добрия филм на Уил Смит, и ....хм... (смях) ако си спомняте това, в този измислен свят, роботите започнаха да се грижат за рутинни задължения и после започнаха да вземат решения на живот и смърт. Това е реалността, пред която сме изправени днес.
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Онова, което ще направим, е всъщност просто да прожектираме серия снимки зад мен, които ви показват реалността на роботите, използвани във война сега, или вече в прототипния стадий. Само да добиете представа. Друг начин да се каже е, че няма да видите нищо, което да е захранвано от технологията "Вулкан," или магически тийнейджърски хормони, или нещо такова. Всичко е реално. Защо да не започваме с тези снимки?
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Във военното дело днес става нещо голямо, а може би дори и в историята на самото човечество. Армията на САЩ отиде в Ирак с шепа самолети с дистанционно управление във въздуха, а сега имаме 5300. Влязохме с нула наземни безпилотни системи, а сега имаме 12 000. Техническият термин "убийствено приложение" придобива ново значение в това пространство. Трябва да помним, че говорим за модела Т4, "Райт Флайърс," в сравнение с онова, което идва скоро. Ето къде сме точно сега.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space. And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now.
Един от хората, с които се срещах наскоро, беше генерал с три звезди от военновъздушните сили. Той каза: "По същество онова, което ни очаква много скоро, са десетки хиляди роботи, действащи в нашите конфликти." А тези числа имат значение, защото не говорим само за десетки хиляди днешни роботи, а за десетки хиляди от тези прототипи и утрешни роботи. Защото, разбира се, едно от нещата, действащо в технологиите е законът на Мур, че можеш да вкарваш все повече и повеч е изчислителна сила в тези роботи. И така, ако превъртим с 25 години напред, ако Мур се окаже прав, тези роботи ще имат близо милиард пъти по-голяма изчислителна мощ от днес. А това означава, че за онзи вид неща, за които сме свикнали да говорим само на конгреси по научна фантастика като "Комикон," трябва да се говори в залите на властта, на места като Пентагона. Настъпва революция на роботите.
One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today. And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Тук трябва да съм ясен. Не говоря за революция, при която трябва да се безпокоите, че губернаторът на Калифорния ще се появи на вратата ви а ла Терминатор. (Смях) Когато историците разглеждат този период, ще заключат, че сме в различен тип революция, революция във войната, като изобретяването на атомната бомба. Но може да се окаже дори нещо по-голямо, защото нашите безпилотни системи не засягат само "как" се води война, те засягат "кой" се бие на най-фундаментално ниво. Тоест, всяка предишна революция във войната -- била тя картечницата, или атомната бомба, е била свързана със система, която или е стреляла по-бързо, стигала е по-далеч, предизвиквала е по-мощен взрив. Такъв със сигурност е случаят с роботиката. Но те променят също преживяването на войника, и дори самата идентичност на войника.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter) When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
Друг начин да се каже това е, че 5000-годишният монопол на човечеството върху воденето на война ще бъде разбит още по време на нашия живот. Прекарах последните няколко години в обикаляне и срещи с всички играчи в тази област -- от учените роботисти, до авторите на научна фантастика, които са ги вдъхновили, до 19-годишните пилоти на безпилотни самолети, които водят битки от Невада, до четиризвездните генерали, които ги командват, дори до иракските метежници, в които се целят, и какво мислят те за нашите системи, и което намерих за интересно, не са само техните истории, а това как техните преживявания сочат към тези разпространяващи се ефекти от тях, които се движат навън в нашето общество, нашето право, нашата етика и така нататък. И така, онова, което бих искал да направя в оставащото ми време, е по същество да ви представя две от тях.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Първото е, че бъдещето на войната, дори такава с роботи, няма да е чисто американска. САЩ понастоящем са напред във военната роботика, но знаем, че в технологията няма такова нещо като постоянно предимство на първооткривателя. С бързо вдигане на ръка, колко души в тази стая все още използват компютри "Уонг"? (Смях) Същото е във войната. Британците и французите са изобретили танка, германците са проумяли как да го използват правилно, и което трябва да помислим за САЩ, е, че ние в момента сме напред, но има още 43 други страни, работещи по военна роботика, и сред тях са всички интересни страни, като Русия, Китай, Пакистан, Иран.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
А това според мен води до едно по-голямо безпокойство. Как да се движим напред в тази революция при състоянието на нашето производство и състоянието на обучението по техника и математика в нашите училища? Друг начин да се мисли за това е, какво означава да отидеш на война, все повече с войници, чийто хардуер е произведен в Китай, а софтуерът е написан в Индия? Но точно както софтуерът стана с отворен код, така стана и с военното дело. За разлика от самолетоносач, или атомна бомба, не е нужна масивна производствена система за изграждане на роботика. Голяма част работи с достъпни продукти. А част дори е "направи си сам." Едно от тези неща, които току-що видяхте да проблесват пред вас, беше безпилотен самолет "Рейвън," задвижван чрез изтласкване с ръка. За около 1000 долара, сами можете да построите такъв, еквивалентен на онова, което войниците използват в Ирак.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India? But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Това повдига друг въпрос, когато става дума за война и конфликт. Добрите момчета може да си играят и да работят по тях като хоби, но лошите момчета също могат да го сторят. Тази кръстоска между роботика и неща като тероризма ще бъде смайваща и дори обезпокоителна, Вече сме видяли началото. По време на войната между Израел, една държава, и Хизбула, участник-недържава, участникът-недържава изстреля четири различни безпилотни самолета срещу Израел. Вече има един уебсайт за джихад, в който можеш да влезеш и дистанционно да детонираш ИЕУ (Импровизирано експлозивно устройство), докато седиш на домашния си компютър.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start. During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
Затова смятам, че ще видим две тенденции при това. Първата е, че ще се засили мощта на индивиди срещу правителства. Втората е, че ще видим една експанзия в сферата на тероризма. Бъдещето може да е кръстоска между Ал Кайда 2.0 и слдващото поколение от "Унабомбър." Друг начин да се мисли за това е фактът, че, помнете, не се налага да убеждавате робот, че ще получи 72 девици, след като умре, за да го убедите да се самовзриви.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Но разпространяващите се ефекти от това ще навлязат в нашата политика. Един от хората, с които се срещнах, беше бивш помощник-секретар по отбраната от администрацията на Роналд Рейгън, той се изрази така: " Харесвам тези системи, защото те спасяват американски животи, но се безпокоя за по-голяма маркетизация на войната, повече приказки за шок и страхопочитание, за да се покрие дискусията за цената. Хората са по-склонни да подкрепят употребата на сила, ако я разглеждат като безплатна." Роботите за мен поемат известни тенденции, които вече са в действие в основната ни политика, и може би ги водят към логичната им крайна точка. Нямаме законопроект. Вече нямаме обявявания на война. Вече не купуваме военни облигации. А сега имаме факта, че конвертираме все повече и повече от нашите американски войници, които бихме изпратили срещу риска, в машини, и така можем да изпратим тези вече снижаващи се лостове на война и да ги пуснем на земята.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless." Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Но бъдещето на войната ще бъде също и YouTube война. Тоест, нашите нови технологии не само отстраняват хората от риск. Те също така записват всичко, което видят. Така че те не само лишават публиката от връзка, те преоформят връзката й с войната. Вече има няколко хиляди видеоклипа заснети сражения от Ирак, в момента в YouTube, повечето от тях събрани от безпилотни самолети. Това може да е добро нещо, би могло да изгражда връзки между домашния фронт и военния фронт, както никога преди. Но помнете, че това се случва в нашия странен, чудат свят, така че неизбежно способността за изтегляне на тези видеоклипове на вашия iPod или вашия Zune ви дава възможността да ги превърнете в забавление. Войниците имат име за тези клипове. Наричат ги военно порно. Едно типично, което ми изпратиха, беше един и-мейл, към който беше прикрепен видеозапис от удар на "Придейтър," унищожаващ вражески обект. Ракетни удари, тела, изхвърлени във въздуха при експлозията. Беше озвучено с музика. Беше озвучено с поп песента "Просто искам да летя" на Шугър Рей.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones. Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment. Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Способността да гледаш повече, а да преживяваш по-малко, създава проблем в отношението на обществеността към войната. Мисля за това с един спортен паралел. То е като разликата между това да гледаш игра на НБА, професионална баскетболна игра, по телевизията, където атлетите са мънички фигури на екрана, и да си на тази баскетболна игра лично, да осъзнаеш как човек, висок седем фута (2,13 м.) наистина изглежда. Но трябва да помним, че това са само клиповете. Това са само на спортния център ESPN версии за играта. Те губят контекста. Те губят стратегията. Те губят човещината. Войната става просто майсторски вкарани кошове и умни бомби.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like. But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Иронията във всичко това е, че, макар че бъдещето на войната може би включва все повече и повече машини, нашата човешка психология движи всичко това, нашите човешки провали водят до тези войни. Един пример за това, който има голям резонанс в сферата на политиката, е как това се разиграва върху нашата много реална война на идеи, че се борим срещу радикални групи. Какво е посланието, което мислим, че изпращаме с тези машини, срещу това какво се получава с оглед на посланието. Един от хората, които срещнах, беше висш служител от администрацията на Буш, който заяви следното за нашето обезчовечаване на войната: "Това играе в наша полза. Онова, което плаши хората, е нашата технология."
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars. So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message. So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology."
Но когато отидеш да се срещнеш с хора, например в Ливан, историята е много различна. Един от хората, с които се срещнах там, беше новинарски редактор, и докато говорехме, над него прелетя един безпилотен самолет. Ето какво каза той: "Това е само още един знак за студеносърдечните, жестоки израелци и американци, които са страхливци, защото изпращат машини, които да се бият с нас. Не искат да се бият с нас като истински мъже, а се страхуват да се бият, така че само трябва да убием малко от войниците им, за да ги победим."
But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Бъдещето на войната също така представя нов тип войник, Това всъщност е предефиниране на преживяването да отидеш на война. Това може да се нарече кабинков войник. Ето какво описа един пилот на безпилотен самолет "Придейтър" за опита си в битки в Иракската война, без изобщо да напусне Невада -- цитирам: "Отиваш на война за 12 часа, стреляш с оръжия по мишени, режисираш убийствата на вражески бойци, а после се качваш на колата и се прибираш в къщи и до 20 минути седиш на масата за вечеря и говориш с децата си за домашните им."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
Психологическият баланс на тези преживявания е невероятно труден, всъщност, при пилотите на безпилотни самолети има най-високи нива на посттравматичен стрес, отколкото много от поделенията, намиращи се физически в Ирак. Но някои се притесняват, че тази липса на връзка ще доведе до нещо друго, че тя би могла да направи планирането на военни престъпления много по-лесно, когато имаш това разстояние. "Като видеоигра е" - описа ми един млад пилот, за премахване на вражески войници отдалеч. Както знае всеки, който е играл "Гранд Тефт Ауто," във видеосвета правим неща, които не бихме направили лице в лице.
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
И така, много от това, което чувате от мен, е, че има друга страна на технологичните революции, и че тя оформя нашето настояще, а може би ще оформя и военното ни бъдеще. Законът на Мур е оперативен, но също и законът на Мърфи. Мъглата на войната не се вдига. Врагът има глас. Получаваме невероятни нови способности, но също така виждаме и преживяваме нови човешки дилеми. Сега, понякога това са просто моменти "опа," както го описа ръководителят на една компания за роботи: "Просто има моменти 'опа'." Е, какви са моментите "опа" с роботите и войната?
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote. We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war?
Понякога са смешни. Понякога са като онази сцена от филма с Еди Мърфи, "Най-добра защита," разиграващ се в реалността, където тестваха един въоръжен с автомат робот и по време на демонстрацията той започна да се върти в кръг и насочи автомата си към журито от ВИП-ове. За щастие, оръжието не беше заредено и никой не беше ранен, но в други случаи грешките са трагични, както миналата година в Южна Африка, където едно противовъздушно оръдие дало "софтуерна грешка," включило се, стреляло и девет войници били убити.
Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Има нови проблеми в законите за война и отговорност. Какво да правим с неща като безпилотно убийство? Какво е безпилотно убийство? Вече има три случая на удари от безпилотни самолети "Придейтър," където смятахме, че сме хванали Бин Ладен, а се оказа, че случаят не е такъв. Ето къде сме сега. Дори не говорим за въоръжени автономни системи с пълни правомощия да използват сила. И не смятайте, че това няма да дойде. По време на проучванията си се натъкнах на четири различни проекти на Пентагона по различни аспекти на това.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
И така, има го този въпрос. Какво следва от това по проблеми като военните престъпления? Роботите нямат емоции, затова не се потискат, ако другарят им е убит. Те не извършват престъпления от ярост и за отмъщение. Но роботите нямат емоции, те виждат една 80-годишна баба в инвалидна количка по същия начин, по който виждат един танк Т80. И двете са само серия нули и единици. Затова трябва да решим този въпрос, как да пригодим военните си закони от XX век, които са толкова стари сега, че могат да се квалифицират за "Медикеър," към тези технологии от XXI-ви век.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
В заключение, говорих за онова, което изглежда бъдещето на войната, но забележете, че използвах само примери от реалния свят, а вие видяхте само снимки и видеоклипове от реалния свят. Това поставя огромно предизвикателство пред всички нас, за което трябва да се безпокоим доста преди да се налага да се безпокоите, че румбата изсмуква живота от вас. Ще оставим ли факта, че онова, което се разкрива сега във войната, звучи като научна фантастика и поради това ни държи в отрицание? Ще се изправим ли срещу реалността на една война от XXI-ви век? Ще направи ли нашето поколение същата грешка, която е направило едно минало поколение с атомните оръжия да не се справи със заобикалящите ги въпроси, докато кутията на Пандора вече не е отворена?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Може да греша за това, а един учен-роботик от Пентагона ми каза, че е така, той каза: "Няма реални, социални, етични, морални проблеми, когато става дума за роботи. Тоест," добави той, "освен ако машината убива многократно погрешните хора. Тогава това е просто проблем за отзоваване на продукта."
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
И така, крайната точка за това е, че всъщност можем да се обърнем към Холивуд. Преди няколко години Холивуд събра всички най-добри образи и създаде списък на най-великите 100 герои и най-великите 100 злодеи в цялата холивудска история, героите, които са представяли най-доброто и най-лошото от човечеството. Само един герой е влязъл и в двата списъка -- Терминатор, робот -- машина за убийства. Това сочи към факта, че нашите машини могат да се използват както за добро, така и за зло, но за мен то сочи към факта, че има дуалност също и при хората.
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Тази седмица е честване на нашата креативност. Нашата креативност е отвела нашия вид до звездите. Нашата креативност е създала творби на изкуствата и литературата, които да изразяват любовта ни. А сега използваме креативността си в определена насока за изграждане на фантастични машини с невероятни способности, може би някой ден дори един изцяло нов вид. Но една от основните причини да го правим е заради подтика ни да се унищожаваме взаимно, затова въпросът, който трябва да си задаваме всички, е дали нашите машини, или ние сме настроени за война? Благодаря. (Аплодисменти)
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war? Thank you. (Applause)