I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
Tôi muốn mở đầu bằng việc nói về một cuộc chiến mà ở đó có những sự nguy hiểm không thể lường trước được Phe nổi loạn I-rắc đã đặt IED, một thiết bị nổ tự tạo, dọc các con đường rất kỹ lưỡng Vào năm 2006, có hơn 2,500 cuộc tấn công như vậy mỗi tháng, Và đó là nguyên nhân hàng đầu dẫn đến tử vong trong quân đội Mỹ và người dân Iraq. Đội ngũ tìm kiếm các quả bom IED này được gọi là đội EOD - đội xử lý bom nổ họ là lực lượng tiên phong của nước Mĩ trong việc hạn chế số lượng bom ven đường. Mỗi đội EOD xử lý khoảng 600 cuộc gọi thông báo có bom mỗi năm, Vô hiệu hóa khoảng 2 quả bom mỗi ngày. Có lẽ minh chứng tốt nhất cho giá trị của họ trong cuộc chiến, đó là phe nổi dậy Iraq treo giải 50,000 $ cho cái đầu của một người lính EOD
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
Không may là, công việc đặc biệt này thường không dễ dàng gì Khi mà người lính tiến đến đủ gần để thấy dây nổ của quả bom nó sẽ phát nổ thành một ngọn lửa rất lớn Phụ thuộc vào độ gần của bạn và khối lượng thuốc nổ trong quả bom nó có thể gây tử vong hoặc thương tích Bạn phải cách xa khoảng 50 yard mới có thể thoát được Cú nổ mạnh đến nỗi có thể làm gãy tay chân của bạn, cho dù bạn né được Có một người lính dẫm vào bom.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
Và khi các thành viên còn lại tiến tới Họ thấy hầu như chẳng còn lại gì. Và tối hôm đó, người chỉ huy đơn vị đã phải làm một nhiệm vụ buồn Ông viết một lá thư chia buồn gửi về Mỹ và ông đã bày tỏ sự tiếc thương của đơn vị khi mất đi một người lính dũng cảm nhất, người đã cứu sống họ rất nhiều lần Và ông xin lỗi vì đã không thể đưa được họ về nhà. Nhưng sau đó ông nói lên sự tích cực mà ông đã rút ra được từ nỗi đau. Ông viết "Ít nhất, khi một con robot chết, bạn không phải viết một lá thư cho mẹ của nó."
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
Điều này nghe như chuyện viễn tưởng, nhưng lại có thật trong chiến tranh Người lính trong trường hợp trên là con robot 42 cân tên PackBot. Lá thư của người chỉ huy đã gửi không phải đến một trang trại nào đó ở Iowa như bạn thấy trong những bộ phim chiến tranh hồi xưa, mà được đưa đến công ty iRobot, nơi được đặt tên theo cuốn tiểu thuyết của Asimov và bộ phim không quá nổi của Will Smith, và ... um ... (Cười) nếu bạn còn nhớ trong thế giới giả tưởng đó, robot bắt đầu thực hiện những việc lặt vặt, và sau đó chúng bắt đầu phụ trách vấn đề sinh tử. Đó là hiện thực chúng ta đối mặt ngày nay.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
Điều chúng ta định làm tiếp sau đây là chiếu các hình ảnh phía sau tôi đây để cho bạn thấy thực tế robot đang được dùng trong chiến tranh hoặc đã đến giai đoạn thử nghiệm. Để các bạn có thể hình dung được Nói cách khác, những gì bạn thấy không phải được chế từ công nghệ Vulcan hay trò ảo thuật phù thủy hay những thứ tương tự vậy. Điều này hoàn toàn có thật. Hãy cùng xem những bức ảnh đó.
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
Có một sự thay đổi lớn trong chiến tranh hiện nay và thậm chí cả trong lịch sử nhân loại Quân đội Mĩ đến Iraq với chỉ vài máy bay không người lái. Và giờ chúng ta có 5,300. Bắt đầu cuộc chiến chúng ta không có hệ thống không người lái dưới mặt đất nào Nhưng giờ chúng ta có 12,000. Và từ chuyên môn "cỗ máy giết người" mang một ý nghĩa mới trong lĩnh vực này.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
Và cần phải ghi nhớ rằng chúng ta đang nói về Model T Fords, Wright Flyer ( thế hệ máy bay đầu tiên) so sánh với điều sắp diễn ra. Đó là thực trạng của chúng ta. Một trong số những người tôi gặp gần đây là tướng 3 sao của lực lượng không quân, về cơ bản ông ta nói rằng, chẳng bao lâu nữa sẽ có 10 ngàn robot hoạt động trong những cuộc xung đột những con số này quan trọng, vì chúng ta không chỉ nói về 10 ngàn robot hiện nay, mà còn là 10 ngàn robot thử nghiệm và robot trong tương lai dĩ nhiên, một trong số những thứ vận hành trong công nghệ là định luật Moore, nghĩa là bạn có thể tích hợp ngày càng nhiều sức mạnh máy tính vào những con robot đó, và trong vòng 25 năm nữa, nếu định luật Moore vẫn còn đúng, những con robot đó sẽ có sức mạnh gấp một tỷ lần trong việc xử lý thông tin và vận hành so với ngày nay
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
Và điều đó nghĩa là điều mà chúng ta chỉ thấy trong các hội nghị khoa học viễn tưởng như Comic-con sẽ được bàn luận trong những nơi quyền lực như Lầu Năm Góc Cuộc cách mạng robot phụ thuộc vào chúng ta.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
Bây giờ, tôi cần phải nói rõ tại đây. Tôi không nói về cuộc cách mạng mà các bạn phải lo lắng về việc thống đốc California xuất hiện tại nhà bạn trong vai Kẻ Hủy Diệt. (Cười)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
Khi các nhà sử học xem lại thời điểm này, họ sẽ kết luận chúng ta đang ở một cuộc cách mạng khác: cách mạng trong chiến tranh, như việc phát minh bom nguyên tử. Nhưng có lẽ còn lớn hơn thế, vì hệ thống không người lái không chỉ
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
ảnh hưởng cách các cuộc chiến diễn ra mà còn đến con người trong cuộc chiến, ở một mức độ cơ bản nhất. Đó là, mỗi cuộc cách mạng trước đó, như súng máy, bom nguyên tử, đều là một hệ thống có thể bắn nhanh hơn, đi xa hơn, hoặc sức nổ lớn hơn. Đó chính xác là trường hợp của robot, nhưng chúng cũng thay đổi trải nghiệm của chiến binh và thậm chí cả đặc tính của một người lính.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
Nói cách khác, chế độ độc quyền 5000 năm trong cuộc chiến đang dần sụp đổ trong thời đại của chúng ta Tôi đã dành một vài năm qua gặp gỡ nhiều người trong lĩnh vực này, từ các nhà khoa học robot đến các tác giả khoa học viễn tưởng từng truyền cảm hứng cho đến các phi công không người lái 19 tuổi đang chiến đấu từ Nevada, cho đến vị tướng 4 sao thậm chí cả lực lượng nổi dậy Iraq người mà họ đang nhắm tới và những gì họ nghĩ về hệ thống của chúng ta điều mà tôi thấy rất hứng thú không chỉ là câu chuyện của họ, mà còn là kinh nghiệm thể hiện trong những hiệu ứng gợn sóng đang lan tỏa trong xã hội trong luật pháp , đạo đức của chúng ta,.. Và thứ mà tôi muốn làm bây giờ là đi vào chi tiết hơn về những điều trên
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
Điều đầu tiên là tương lai của cuộc chiến cho dù là cuộc chiến máy móc hóa cũng không mang bản chất của nước Mỹ hoàn toàn Nước Mỹ đang tiến tới việc ứng dụng robot vào quân đội, nhưng chúng ta biết rằng trong công nghệ không có một thứ gọi là độc quyền hay lợi ích vĩnh viễn Hãy cho tôi thấy cánh tay của các bạn những người trong khán phòng này vẫn sử dụng máy tính Wang (Cười) Điều đó cũng tương tự trong chiến tranh. Người Anh và người Pháp chế tạo ra xe tăng Người Đức tìm ra cách thức sử dụng chúng Cái mà chúng ta cần phải nghĩ đó là hiện tại, nước Mỹ đang dẫn đầu Nhưng có tới tận 43 nước khác ngoài kia đang nghiên cứu về robotics trong quân đội và những nước đó bao gồm những nước như Nga, trung Quốc, Pakistan, Iran.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
Và điều này đã dấy lên một nỗi lo với tôi Làm thế nào chúng ta tiến tới trong cuộc cách mạng được hỗ trợ bởi nhà máy sản xuất và sự giảng dạy khoa học và toán học trong ngôi trường của chúng ta hay nói một cách khác Nó có ý nghĩa gì khi quân đội chúng ta được trang bị với phần cứng sản xuất tại Trung Quốc và phần mềm viết ở Ấn Độ?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
Nhưng ngay khi phần mềm trở thành một nguồn mở Chiến tranh cũng như vậy. Không giống như tàu sân bay hay bom nguyên tử bạn không cần sản xuất hàng loạt hệ thống phục vụ robotics. Nhiều cái được làm sẵn thậm chí còn tự thiết lập Một trong những thứ mà bạn vừa thấy đó là một chiếc máy bay không người lái được phóng bằng tay. Chỉ cần một ngàn đô la Bạn có thể tự tạo một cái, y hệt như những được sử dụng ở Iraq
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
Điều đó lại dấy lên một nỗi lo lắng khác về chiến tranh và xung đột. Người tốt hay dùng nó như một sở thích Nhưng người xấu cũng vậy Sự kết hợp giữa robotics và những thứ như khủng bố rất kinh ngạc và thậm chí là đáng lo lắng và chúng ta đã nhìn thấy nó ngay từ đầu
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
trong suốt cuộc chiến giữa Israel, một nhà nước, và Hezbollah, tổ chức phi chính phủ Tổ chức phi chính phủ dùng 4 máy bay điều khiển từ xa tấn công Isreal Đó là một trang web jihadi mà bạn có thể kích hoạt từ xa một trái bom IED ở Iraq khi đang ngồi máy tính ở nhà
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
Và tôi nghĩ chúng ta sẽ chứng kiến 2 xu hướng của vấn đề này Một cái, là bạn sẽ ủng hộ quyền lực của những cá nhân chống chính quyền và cái thứ hai chính là chúng ta sẽ chứng kiến một sự lan rộng của chủ nghĩa khủng bố Tương lai của điều này tựa như sự kết hợp giữa al Qaeda 2.0 và thế hệ tiếp theo của Unabomber Và một cách nghĩ khác về vấn đề này đó là, hãy nhớ, bạn không cần phải thuyết phục 1 con robot rằng nó sẽ có 72 trinh nữ sau khi chết để thuyết phục nó đánh bom tự sát
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
Nhưng những ảnh hưởng gợn sóng của việc này đã đi vào trong chính trị. 1 người tôi gặp từng làm trong bộ Quốc phòng Hoa Kỳ Ronald Reagan, và anh ta nói ""Tôi thích hệ thống này bởi vì nó đã cứu nhiều mạng sống người Mỹ, Nhưng tôi đang lo về việc thị trường hóa chiến tranh nhiều cuộc nói chuyện gây shock và kinh hoàng để chi trả những cuộc thảo luận về chi phí Người ta hay ủng hộ việc dùng vũ lực nếu như họ thấy nó không tốn phí
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
Đối với tôi, Robot đang có những xu hướng mà đã xuất hiện trong các đoàn thể chính trị và có thể dẫn đến một kết luận logic Chúng ta không có bản thảo Chúng ta không có những lời tuyên chiến nữa Chúng ta không mua trái phiếu chiến tranh nữa Và giờ chúng ta có 1 sự thật rằng chúng ta đang chuyển hóa ngày nhiều lính Mỹ dể gửi tới chiến trường thành những cỗ máy, và chúng ta sẽ mang những thứ đó đến chiến trường Và đặt những cỗ máy đó lên trên mặt đất
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
Nhưng tương lai của cuộc chiến chính là một cuộc chiến Youtube Vấn đề là: công nghệ tiên tiến của ta Không thực sự bảo vệ con người khỏi rủi ro Những thứ đó cũng ghi nhận lại những gì nó thấy Vì thế nó sẽ không chỉ phá vỡ liên kết cộng đồng Mà còn hình thành mối liên hệ mới với chiến tranh Nó đã có vài ngàn video về cảnh chiến tranh với Iraq trên Youtube. và đa số những đoạn phim đó được quay bằng máy bay điều khiển từ xa
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
Đây có thể là một điều tốt Nó có thể xây dựng mối liên kết Giữa hậu phương và tiền tuyến như chưa bao giờ có Nhưng hãy nhớ, điều này đang xảy ra trong thế giới lạ kỳ của chúng ta và chắc hẳn rằng, bạn biết đấy Khả năng tải những đoạn phim đó bằng Ipod hay Zune sẽ biến những đoạn phim đó thành công cụ để giải trí
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
Người lính đặt tên cho những đoạn phim đó Chính là "Porn'' Cái điển hình mà tôi nhận được đó là 1 email đính kèm 1 đoạn phim về 1 con Predator tấn công trụ sở kẻ thù Tên lửa bắn trúng Người bay lên trời do vụ nổ Đoạn phim được chèn nhạc Đó là một bản nhạc pop "I Just Want To Fly" của Sugar Ray
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
Cái sự việc mà coi nhiều hơn nhưng trải nghiệm ít hơn dẫn đến 1 vấn đề trong cách nhìn nhận của công chúng với chiến tranh Nó tương tự như trong thể thao Đó là sự khác biệt giữa xem một trận đấu NBA, giải bóng rổ chuyên nghiệp trên TV, nơi mà những vận động viên là những nhân vật nhỏ nhắn trên màn hình và trực tiếp có mặt ở trận đấu và nhìn thấy thế nào là 1 người cao 7 feet
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
Nhưng chúng ta phải nhớ rằng đó chỉ là những đoạn phim đó chỉ là trung tâm thể thao ESPN phiên bản Game. Nó đánh mất ngữ cảnh Nó đánh mất chiến thuật Nó mất đi tính nhân đạo Chiến tranh bỗng trở thành Những cú úp rổ và trái bom tự động
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
Và điều nghịch lý của tất cả điều này trong khi cuộc chiến ở tương lai có thể bao gồm ngày càng nhiều máy móc Chính tâm lý con người đang điều khiển tất cả mọi thứ Chính những thất bại của ta dẫn đến những cuộc chiến này
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
1 ví dụ của việc này có ảnh hưởng rất lớn trong hệ thống chính sách đó là cách thức hoạt động của những cuộc chiến của ý tưởng mà chúng ta đang thực hiện chống lại những nhóm căn bản Lời nhắn mà chúng ta muốn gửi bằng những cỗ máy đó có khác gì so với cái mà thực sự nhận được qua lời nhắn đó?
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
Một trong những người tôi đã gặp 1 quan chức cấp cao trong ban quản trị Bush đã phải nói về cuộc chiến không người này "Nó chính là điểm mạnh của ta. thứ mà khiến mọi người sợ hãi chính là công nghệ" Nhưng khi mà bạn ra ngoài gặp gỡ mọi người Ví dụ như ở Lebanon, Nó là một câu chuyện rất khác Một người ta gặp là một biên tập tin tức Và chúng tôi nói về máy bay tự động đang bay quanh đây Thứ mà anh ấy phải nói Đâu là một dấu hiệu khác Của sự tàn ác của người Israel và người Mỹ họ rất nhát gan bởi vì họ cử máy móc đến để đấu với chúng ta Họ không muốn đánh trận như những người thật thụ nhưng họ sợ chiến đấu vì thế chúng ta chỉ cần Hạ vài người lính của họ để đánh bại họ"
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
Tương lai của cuộc chiến cũng bao gồm một chiến binh kiểu mới Và nó đang thay đổi trải nghiệm về việc tham chiến Bạn có thể gọi là chiến binh trong phòng Đây là cách một phi công máy bay tự động Predator miêu tả kinh nghiệm chiến trường trong trận chiến Iraq khi đang rời Nevada ""Chúng ta sẽ bay 12 tiếng nhắm vào kẻ địch tiêu diệt từng kẻ địch Và sau đó bạn lên xe Và về nhà trong vòng 20 phút Bạn ngồi ăn tối Nói chuyện với con bạn về bài tập về nhà
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
Giờ đây , việc cân bằng tâm lý cho những trải nghiệm đó cực kì khó khăn và thực tế những phi công đó có tỉ lệ PTSD hơn hẳn nhiều đơn vị tác chiến ở Iraq. Nhưng có vài người vẫn lo rằng sự mất kết nối này sẽ dẫn đến việc khác và nó có thể làm việc suy nghĩ đến tội phạm chiến tranh dễ hơn rất nhiều khi bạn có khoảng cách này " Nó như trò chơi vậy" đó là lời một phi công tả cho tôi khi triệt hạ quân địch từ xa . Và với bất cứ ai đã từng chơi Grand Theft Auto đều biết rằng , ta làm những việc ta không làm khi đối diện nhau trong thế giới trò chơi điện tử
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
Vì vậy khá nhiều thứ bạn đang nghe từ tôi là về việc có một mặt trái của sự đổi mới công nghệ, và nó đang hình thành hiện tại của chúng ta và có thể định hình cả tương lai của những cuộc chiến của chúng ta Luật của Moore đang được áp dụng nhưng Luật của Murphy cũng vậy Màn sương chiến tranh vẫn chưa tan Quân thù có một lá phiếu lựa chọn.
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
Ta đang đạt được các khả năng phi thường nhưng cũng đang nhìn thấy, trải qua những vấn đề tiến thoái lưỡng nan của con người. GIờ đây , đôi lúc sẽ có lúc rắc rối khi người đứng đầu công ti về robot tự động hóa miêu tả nó , bạn cũng chỉ lâm vào rắc rối đó mà thôi. Vậy những rắc rối ta vướng phải với robot trong chiến tranh là gì ? Thực ra đôi lúc chúng rất khôi hài. Có khi chúng sẽ như một cảnh trong phim "Best Defense" của Eddie Murphy ở đời thực lúc họ thử nghiệm robot trang bị súng máy và trong lúc diễn tả về nó , nó đã bắt đầu quay vòng tròn và chĩa súng máy vào khu vực đánh giá sản phẩm của những vị khách VIP May mắn là các vũ khí chưa được lên đạn và không ai bị thương , nhưng nhiều lúc những rắc rối đó lại vô cùng nguy hiểm như năm ngoái tại Nam Phi, nơi những đại bác chống máy bay xuất hiện lỗi phần mềm và thật sự đã tự khởi động và bắn chết chín quân nhân.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
Chúng ta đã có những nếp gấp mới về luật chiến tranh và vấn đề trách nhiệm. Chúng ta nên xử lý những thứ như "càn quét chốn không người" thế nào ? "Cuộc càn quét chốn không người " là gì ? Ta đã sẵn có ba ví dụ về cuộc đổ bộ của máy bay Predator vào nơi mà ta nghĩ sẽ hạ được Bin Laden , nhưng thực tế không phải vậy Và đó là nơi chúng ta đang đứng hiện tại Đó là chưa kể đến những hệ thống trang bị vũ khí , tự động và với toàn quyền được sử dụng vũ lực. Và đừng tin là điều đó chưa đến Khi thực hiện nghiên cứu , tôi đã vô tình xem qua bốn dự án lầu Năm Góc với đủ các khía cạnh
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
Và vì vậy tôi có câu hỏi này : Thứ gì đã dẫn tới những vấn đề như tội phạm chiến tranh . Robot vô cảm , vậy nên chúng không tức giận khi bạn bè bị giết hại . Chúng không phạm tội tức giận và hận thù Nhưng lũ robot có sự vô cảm Chúng nhìn thấy một cụ bà 80 tuổi trên xe lăn cũng giống như chúng thấy một xe tăng T-80 : những vật đó đều là một chuỗi những số 0 và 1 Và do vậy ta lại có câu hỏi cần giải quyết Làm thế nào để đuổi kịp luật chiến tranh thế kỉ 20 của chúng ta , chúng quá cũ kĩ để đáp ứng tiêu chuẩn của Medicare hay những công nghệ thế kỉ 21 này ?
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
Vì vậy , tóm lại rằng , tôi vừa nói về những thứ có thể là tương lai của chiến tranh nhưng chú ý rằng tôi chỉ dùng ví dụ đời thực và bạn chỉ có thể nhìn thấy những bức tranh , đoạn phim đời thực Điều này thổi bùng lên một thử thách lớn cho chúng ta rằng cần phải quan tâm tới trước khi bạn lo lắng về Roomba đang hút cạn sinh lực từ bạn . Liệu ta sẽ để thực tế là thứ đang vén màn chính nó hiện tại trong chiến tranh nghe giống như khoa học viễn tưởng và do đó sẽ phủ nhận chúng ta ? Chúng ta sẽ đối mặt với sự thật của cuộc chiến tranh thế kỉ 21 chứ ? Thế hệ chúng ta liệu có mắc sai lầm giống như những thứ thế hệ trước đã làm như vũ khí hạt nhân , và không giải quyết vấn đề quanh nó cho đến khi hộp Pandora đã được mở ra ?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
Bây giờ tôi có thể đang nghĩ sai , và một chuyên gia robot lầu Năm Góc đã nói với tôi là tôi đã sai, " Không có vấn đề xã hội , đạo đức , đạo lý thực nào xảy ra với chuyện về robot cả" "Trừ khi, " ông ta đế thêm " máy móc giết oan con người lặp đi lặp lại Thì đó chỉ là vấn đề thu hồi sản phẩm "
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
Chốt lại vấn đề đó là Thực ra, ta có thể đối chiếu đến Hollywood Vài năm trước ,Hollywood đã tụ họp những nhân vật hàng đầu và tạo ra bản danh sách 100 anh hùng đứng đầu và 100 kẻ phản diện đứng đầu trong lịch sử Hollywood nhân vật đại diện cho những thứ tốt nhất và tệ nhất loài người . Chỉ có một nhân vật có mặt trong cả hai : Kẻ Hủy Diệt , một con robot giết người hàng loạt Và điều đấy đặt ra thực tế rằng máy móc của chúng ta có thể dùng cho cả mục đích xấu và tốt , nhưng với tôi nó ám chỉ thực tế rằng con người cũng có hai mặt như vậy
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
Đây là tuần lễ kỉ niệm cho sự sáng tạo của chúng ta . Sự sáng tạo đã mang chúng ta đến những vì sao. Sự sáng tạo tạo ra công việc, nghệ thuật và thơ ca để thể hiện tình yêu. Và giờ, ta đang dùng sự sáng tạo theo một hướng xuyên suốt , để tạo ra các cỗ máy tuyệt vời với các khả năng siêu việt thậm chí có lẽ vào một ngày nào đó một loài hoàn toàn mới. Một trong các nguyên nhân là chúng ta đang làm vậy là vì chúng ta định phá hủy nhau, và thắc mắc tất cả chúng ta nên hỏi: đây có phải máy móc, hay có phải chúng ta châm ngòi chiến tranh?
Thank you. (Applause)
Cảm ơn. (Vỗ tay)