I write fiction sci-fi thrillers, so if I say "killer robots," you'd probably think something like this. But I'm actually not here to talk about fiction. I'm here to talk about very real killer robots, autonomous combat drones.
ผมเป็นนักเขียนนวนิยายวิทยาศาสตร์เขย่าขวัญ ดังนั้นเวลาที่ผมพูดถึง "หุ่นยนต์นักฆ่า" คุณคงคิดถึงหุ่นยนต์ประมาณนี้ แต่ผมไม่ได้มาที่นี่เพื่อพูดถึงเรื่องในนิยาย ผมมาเพื่อพูดถึงหุ่นยนต์นักฆ่าของจริง หุ่นยนต์ทหารที่ตัดสินใจได้ด้วยตนเอง
Now, I'm not referring to Predator and Reaper drones, which have a human making targeting decisions. I'm talking about fully autonomous robotic weapons that make lethal decisions about human beings all on their own. There's actually a technical term for this: lethal autonomy.
ผมไม่ได้พูดถึงหุ่นแบบ พรีเดเตอร์ (Predator) หรือ รีพเพอร์ (Reaper) นะครับ หุ่นเหล่านั้นเป็นซึ่งมีมนุษย์คอยตัดสินเป้าหมาย ผมกำลังพูดถึงหุ่นยนต์ติดอาวุธ ที่ตัดสินใจด้วยตนเองจริงๆ หุ่นที่สามารถตัดสินใจปลิดชีวิตคนได้ ด้วยตัวมันเอง ศัพท์เฉพาะของสิ่งนี้คือ "ภาวะอิสระในการฆ่า" (lethal autonomy)
Now, lethally autonomous killer robots would take many forms -- flying, driving, or just lying in wait. And actually, they're very quickly becoming a reality. These are two automatic sniper stations currently deployed in the DMZ between North and South Korea. Both of these machines are capable of automatically identifying a human target and firing on it, the one on the left at a distance of over a kilometer. Now, in both cases, there's still a human in the loop to make that lethal firing decision, but it's not a technological requirement. It's a choice. And it's that choice that I want to focus on, because as we migrate lethal decision-making from humans to software, we risk not only taking the humanity out of war, but also changing our social landscape entirely, far from the battlefield. That's because the way humans resolve conflict shapes our social landscape. And this has always been the case, throughout history.
หุ่นยนต์ที่ตัดสินใจฆ่าได้อย่างอิสระนั้น มีได้หลายรูปแบบ ทั้งบินได้ ขับได้ หรือตั้งอยู่นิ่งๆ อย่างนั้น และมันกำลังใกล้ความเป็นจริงขึ้นทุกที นี่คือฐานซุ่มยิงอัตโนมัติสองแห่ง ซึ่งติดตั้งอยู่ในบริเวณเขตปลอดทหาร ระหว่างเกาหลีเหนือและเกาหลีใต้ เจ้าเครื่องทั้งสองนี้สามารถระบุ เป้าหมายที่เป็นมนุษย์ แล้วยิงได้ด้วยตัวมันเอง ตัวซ้ายมือสามารถยิงได้เป็นระยะทางกว่า 1 กิโลเมตร ทั้งสองกรณีนั้น ยังคงมีการควบคุมโดยมนุษย์อยู่ ก่อนที่จะมีการตัดสินใจยิง แต่มันไม่ใช่ความจำเป็นทางเทคโนโลยี เราเลือกที่จะมีมันต่างหาก และนั่นคือตัวเลือกที่ผมอยากจะมุ่งประเด็นไป เพราะเมื่อใดที่เราย้ายการตัดสินใจปลิดชีวิต จากมนุษย์สู่ซอฟท์แวร์แล้ว เราไม่เพียงนำมวลมนุษยชาติออกจากสงคราม แต่เราจะเปลี่ยนภูมิสังคมไปโดยสิ้นเชิง นอกจากในสนามรบ นั่นเป็นเพราะด้วยลักษณะที่มนุษย์ใช้แก้ปัญหา หล่อหลอมให้เกิดภูมิทัศน์ทางสังคมของเรา และนี่เป็นสิ่งที่เกิดขึ้นมาตลอดในประวัติศาสตร์ของเรา
For example, these were state-of-the-art weapons systems in 1400 A.D. Now they were both very expensive to build and maintain, but with these you could dominate the populace, and the distribution of political power in feudal society reflected that. Power was focused at the very top. And what changed? Technological innovation. Gunpowder, cannon. And pretty soon, armor and castles were obsolete, and it mattered less who you brought to the battlefield versus how many people you brought to the battlefield. And as armies grew in size, the nation-state arose as a political and logistical requirement of defense. And as leaders had to rely on more of their populace, they began to share power. Representative government began to form.
ยกตัวอย่างเช่น อาวุธใหม่ล่าสุดเหล่านี้ ในสมัยปีค.ศ. 1400 พวกมันแพงมากที่จะสร้างและบำรุงรักษา แต่ด้วยอาวุธนี้ คุณสามารถปกครองประชากรได้ และการกระจายอำนาจทางการเมือง ในระบบศักดินาก็เป็นเช่นนั้น อำนาจรวมอยู่ที่ผู้สูงสุด และอะไรที่เปลี่ยนไปล่ะ? นวัตกรรมทางเทคโนโลยี ดินปืน ปืนใหญ่ และไม่นานนัก ชุดเกราะและปราสาทก็หมดความสำคัญลง ประเด็นที่ว่าคุณเอา "ใคร" ลงในสนามรบ จึงไม่สำคัญเท่า "จำนวนเท่าไหร่" อีกต่อไป ขณะที่ขนาดของกองทัพใหญ่ขึ้น รัฐประเทศก็เติบโตขึ้น ในขณะที่ภาวะด้านการเมืองและขนส่ง เพื่อการป้องกันตนเอง ทำให้ผู้นำต้องพึ่งพาประชากรมากยิ่งขึ้น พวกเขาก็เริ่มมีส่วนในอำนาจเหล่านั้น รัฐบาลที่มีผู้สมัครเป็นตัวแทนทางการเมืองก็เกิดขึ้น
So again, the tools we use to resolve conflict shape our social landscape. Autonomous robotic weapons are such a tool, except that, by requiring very few people to go to war, they risk re-centralizing power into very few hands, possibly reversing a five-century trend toward democracy.
และอีกครั้ง ที่เครื่องมือที่เราใช้แก้ไขความขัดแย้ง ทำให้ภูมิทัศน์ทางสังคมของเราเปลี่ยนไป หุ่นยนต์ติดอาวุธที่ตัดสินใจอย่างอิสระ คือเครื่องมือนั้น ยกเว้นว่า เนื่องจากมันใช้คนน้อยลงในการทำสงคราม มันทำให้เราเสี่ยงต่อการรวมอำนาจ ไปที่คนเพียงไม่กี่คน ซึ่งอาจทำให้เราถดถอยจากประชาธิปไตยที่ เราสร้างกันมากว่า 500 ปี
Now, I think, knowing this, we can take decisive steps to preserve our democratic institutions, to do what humans do best, which is adapt. But time is a factor. Seventy nations are developing remotely-piloted combat drones of their own, and as you'll see, remotely-piloted combat drones are the precursors to autonomous robotic weapons. That's because once you've deployed remotely-piloted drones, there are three powerful factors pushing decision-making away from humans and on to the weapon platform itself.
เมื่อรู้อย่างนี้แล้ว เราสามารถปกป้องรักษาสถาบัน ทางประชาธิปไตยของเราไว้ได้ โดยทำสิ่งที่มนุษย์ทำได้ดีที่สุด นั่นคือการปรับตัว แต่เวลานั้นเป็นปัจจัยหนึ่ง มี 70 ประเทศที่กำลังพัฒนา หุ่นยนต์ต่อสู้บังคับระยะไกลของพวกเขาเอง และดังที่คุณจะเห็น หุ่นยนต์ควบคุมระยะไกลเหล่านี้ จะเป็นต้นฉบับของหุ่นยนต์ที่ตัดสินใจได้ด้วยตนเอง นั่นก็เพราะ เมื่อคุณเริ่มพัฒนาหุ่นควบคุมระยะไกล มันมีปัจจัยสามประการ ที่ผลักดันให้การตัดสินใจเองนั้น ออกห่างจากการควบคุมของมนุษย์ และอยู่บนตัวอาวุธเอง
The first of these is the deluge of video that drones produce. For example, in 2004, the U.S. drone fleet produced a grand total of 71 hours of video surveillance for analysis. By 2011, this had gone up to 300,000 hours, outstripping human ability to review it all, but even that number is about to go up drastically. The Pentagon's Gorgon Stare and Argus programs will put up to 65 independently operated camera eyes on each drone platform, and this would vastly outstrip human ability to review it. And that means visual intelligence software will need to scan it for items of interest. And that means very soon drones will tell humans what to look at, not the other way around.
เหตุผลข้อแรกคือ ภาพจำนวนมหาศาลที่หุ่นเหล่านี้สร้างขึ้น ยกตัวอย่างเช่น ในปี 2004 กองทัพหุ่นยนต์ของ อเมริกาได้สร้างผลงาน ด้วยการออกลาดตระเวณเป็นเวลา 71 ชั่วโมง และทำการบันทึกภาพเพื่อใช้ในการวิเคราะห์ ในปี 2011 จำนวนชั่วโมงการทำงานได้เพิ่มขึ้น เป็นสามแสนชั่วโมง ซึ่งมันเกินกว่าประสิทธิภาพของมนุษย์ ที่จะตรวจดูได้หมด และตัวเลขนี้มีแต่จะเพิ่มขึ้นอย่างรวดเร็ว โปรแกรมกอร์กอน สแตร์ แอนด์ อาร์กัส (Gorgon Stare and Argus programs) ของกระทรวงกลาโหมสหรัฐ จะติดตั้งกล้องที่สามารถเคลื่อนไหวได้อย่างอิสระ 65 ตัว บนหุ่นยนต์แต่ละตัว และนี่ก็จะยิ่งย้ำถึงความห่างไกล ของศักยภาพของมนุษย์ที่จะตรวจสอบมันเข้าไปอีก นั่นหมายความว่า ตัวโปรแกรมซอฟท์แวร์ ด้านการลาดตระเวน จะต้องสามารถตรวจหาสิ่งสนใจได้เอง และนั่นหมายความว่า อีกไม่นาน หุ่นยนต์จะเป็นตัวที่คอยบอกมนุษย์ ว่าเราควรสนใจมองอะไร แทนที่จะเป็นไปในทิศทางตรงกันข้าม
But there's a second powerful incentive pushing decision-making away from humans and onto machines, and that's electromagnetic jamming, severing the connection between the drone and its operator. Now we saw an example of this in 2011 when an American RQ-170 Sentinel drone got a bit confused over Iran due to a GPS spoofing attack, but any remotely-piloted drone is susceptible to this type of attack, and that means drones will have to shoulder more decision-making. They'll know their mission objective, and they'll react to new circumstances without human guidance. They'll ignore external radio signals and send very few of their own.
แต่นอกจากนี้ก็ยังมีเหตุผลประการที่สอง ที่กระตุ้นการเปลี่ยนแปลง เรื่องการตัดสินใจ จากมือมนุษย์ สู่เครื่องจักร และนั่นก็คือกิจกรรมแม่เหล็กไฟฟ้า ที่เป็นตัวเชื่อมต่อหุ่นยนต์เหล่านั้น กับตัวควบคุม เมื่อเราได้เห็นตัวอย่างของสิ่งเหล่านี้แล้วในปี 2011 ในตอนที่หุ่น RQ- 170 ของอเมริกา เกิดสับสนระหว่างที่ปฏิบัติหน้าที่ในอิหร่าน เพราะสัญญาน GPS ที่ล้นเกิน แต่กรณีเช่นนี้ก็เกิดขึ้นได้กับหุ่นควบคุมระยะไกลทุกชนิด และนั่นหมายความว่าหุ่นยนต์ จะต้องแบบรับภาระการตัดสินใจมากยิ่งกว่าเดิม พวกมันจะต้องรับทราบถึงเป้าหมายของปฏิบัติการ และจะต้องตอบสนองกับสถานการณ์แวดล้อม โดยไม่ได้รับคำแนะนำจากมนุษย์ พวกมันจะไม่สนใจสัญญานวิทยุจากภายนอก และส่งสัญญานของตัวเองกลับมาเองน้อยมากด้วย
Which brings us to, really, the third and most powerful incentive pushing decision-making away from humans and onto weapons: plausible deniability. Now we live in a global economy. High-tech manufacturing is occurring on most continents. Cyber espionage is spiriting away advanced designs to parts unknown, and in that environment, it is very likely that a successful drone design will be knocked off in contract factories, proliferate in the gray market. And in that situation, sifting through the wreckage of a suicide drone attack, it will be very difficult to say who sent that weapon.
ซึ่งนั่นก็จะนำเราไปสู่ปัจจัยที่สาม ซึ่งเป็นปัจจัยที่มีอิทธิพลมากที่สุด ต่อการเปลี่ยนแปลงความรับผิดชอบเรื่องการตัดสินใจ ที่ย้ายจากมนุษย์สู่อาวุธทั้งหลาย นั่นคือความสามารถในการเลือกไม่กระทำ ปัจจุบันเราอาศัยอยู่ในโลกยุคที่มีเศรษฐกิจเชื่อมโยงถึงกัน การผลิตข้าวของไฮเทค เกิดขึ้นในแทบทุกทวีป โลกไซเบอร์กำลังนำเราไปสู่การออกแบบที่ล้ำหน้า นำไปสู่สิ่งที่เราอาจยังไม่รู้จัก และในสภาพการณ์แบบนั้น มันมีความเป็นไปได้มาก ที่หุ่นยนต์ที่ออกแบบได้อย่างดี จะกลายเป็นต้นแบบ ของหุ่นยนต์ที่จะถูกผลิตในเชิงอุตสาหกรรม ทำให้มันสามารถเพิ่มจำนวนได้อย่างรวดเร็วในตลาดมืด และในสถานการณ์เช่นนี้ นำไปสู่การทำลายล้าง โดยใช้หุ่นยนต์โจมตีแบบพลีชีพ ซึ่งเป็นการยากที่จะหาที่มา ว่าใครเป็นคนส่งหุ่นเหล่านี้มา
This raises the very real possibility of anonymous war. This could tilt the geopolitical balance on its head, make it very difficult for a nation to turn its firepower against an attacker, and that could shift the balance in the 21st century away from defense and toward offense. It could make military action a viable option not just for small nations, but criminal organizations, private enterprise, even powerful individuals. It could create a landscape of rival warlords undermining rule of law and civil society. Now if responsibility and transparency are two of the cornerstones of representative government, autonomous robotic weapons could undermine both.
นี่ทำให้เกิดความเป็นไปได้ที่จะทำให้เกิด สงครามที่ไร้ผู้ก่อ นี่อาจทำให้เกิดการเปลี่ยนแปลง ในสภาวะสมดุลทางการเมืองในระดับโลก ทำให้เป็นการยากมากสำหรับประเทศหนึ่ง ที่จะหันปลายปืน ไปยังผู้ที่ทำการบุกรุก และนั่นอาจทำให้สมดุลนั้นเสียไป ในศตวรรษที่ 21 เราก้าวเดินห่างออกมาจากการป้องกัน และก้าวไปสู่การเตรียมการรุกราน นั่นทำให้การใช้กำลังทางการทหาร กลายเป็นทางเลือกหนึ่งที่อยู่ยงคงกระพัน ไม่ใช่เฉพาะกับประเทศเล็กๆเท่านั้น แต่สำหรับองค์กรก่อการร้าย หรือ บริษัทเอกชนต่างๆ หรือแม้แต่บุคคลที่มีอำนาจ มันอาจทำให้เกิดสภาพที่เหมาะ กับการเกิดการแข่งขัน ระหว่างผู้มีอำนาจต่างๆ โดยบ่อนทำลายนาจของกฏหมายและขนบต่างๆของสังคม แล้วถ้าความรับผิดชอบ และความโปร่งใส เป็นสิ่งสำคัญพื้นฐานของรัฐบาลที่เป็นตัวแทนของเรา อาวุธหุ่นยนต์อัตโนมัติ ก็สามารถทำลายความเชื่อทั้งสองประการนี้ได้
Now you might be thinking that citizens of high-tech nations would have the advantage in any robotic war, that citizens of those nations would be less vulnerable, particularly against developing nations. But I think the truth is the exact opposite. I think citizens of high-tech societies are more vulnerable to robotic weapons, and the reason can be summed up in one word: data. Data powers high-tech societies. Cell phone geolocation, telecom metadata, social media, email, text, financial transaction data, transportation data, it's a wealth of real-time data on the movements and social interactions of people. In short, we are more visible to machines than any people in history, and this perfectly suits the targeting needs of autonomous weapons.
คุณอาจจะคิดว่า ประชาชนของประเทศที่มีเทคโนโลยีสูง จะมีความได้เปรียบในสงครามหุ่นยนต์ แต่ความจริงแล้ว ประชากรของประเทศเหล่านั้นกลับตกอยู่ในความเสี่ยง โดยเฉพาะเมื่อพวกเขาต้องเผชิญหน้ากับชาติกำลังพัฒนา แต่ผมคิดว่าความจริงนั้นกลับตรงกันข้าม ผมคิดว่าประชาชนในสังคมที่มีเทคโนโลยีสูง จะตกเป็นเหยื่อของอาวุธหุ่นยนต์ได้ง่ายกว่า และสาเหตุก็สรุปได้ในคำๆเดียว คือ ข้อมูล ข้อมูลเป็นส่วนสำคัญของสังคมที่ใช้เทคโนโลยี การระบุตำแหน่งบนพื้นโลกด้วยโทรศัพท์มือถือ หรือข้อมูลทางโทรคมนาคมทั้งหลาย สื่อทางสังคมต่างๆ อีเมล ข้อความ ข้อมูลธุรกรรมการเงิน ข้อมูลเรื่องการขนส่งมวลชน มันเป็นขุมคลังของข้อมูลที่มีการบันทึกตามจริงอยู่ตลอดเวลา ภายใต้ความเคลื่อนไหว และการติดต่อสื่อสารระหว่างผู้คนในสังคม สรุปง่ายๆ คือ เรากำลังถูกจับตามองโดยเครื่องจักรเหล่านี้ มากกว่าคนทุกรุ่นในประวัติศาสตร์ และสถานการณ์นี้ก็เหมาะสมอย่างยิ่ง ต่อการตกเป็นเหยื่อของอาวุธอัตโนมัติ
What you're looking at here is a link analysis map of a social group. Lines indicate social connectedness between individuals. And these types of maps can be automatically generated based on the data trail modern people leave behind. Now it's typically used to market goods and services to targeted demographics, but it's a dual-use technology, because targeting is used in another context. Notice that certain individuals are highlighted. These are the hubs of social networks. These are organizers, opinion-makers, leaders, and these people also can be automatically identified from their communication patterns. Now, if you're a marketer, you might then target them with product samples, try to spread your brand through their social group. But if you're a repressive government searching for political enemies, you might instead remove them, eliminate them, disrupt their social group, and those who remain behind lose social cohesion and organization. Now in a world of cheap, proliferating robotic weapons, borders would offer very little protection to critics of distant governments or trans-national criminal organizations. Popular movements agitating for change could be detected early and their leaders eliminated before their ideas achieve critical mass. And ideas achieving critical mass is what political activism in popular government is all about. Anonymous lethal weapons could make lethal action an easy choice for all sorts of competing interests. And this would put a chill on free speech and popular political action, the very heart of democracy.
สิ่งที่เรากำลังเห็นอยู่ในขณะนี้ คือ แผนที่แสดงความเชื่อมโยงระหว่างกลุ่มชนต่างๆ เส้นเหล่านี้แสดงความเชื่อมโยงทางสังคมระหว่างบุคคล และแผนผังเหล่านี้สามารถประมวลผลออกมาได้อัตโนมัติ จากข้อมูลที่คนรุ่นใหม่ทั้งหลายใช้อยู่ ตอนนี้มันเป็นเรื่องปรกติที่ข้อมูลเหล่านี้ จะถูกนำไปใช้เพื่อการขายสินค้าและบริการต่างๆ หรือใช้เพื่อการหาจำนวนประขากร ซึ่งมันก็เป็นการใช้เทคโนโลยีทั้งสองทาง เพราะการพุ่งเป้าไปที่กลุ่มเป้าหมายนั้น ในอีกนัยหนึ่ง ก็คือการที่คนบางกลุ่ม หรือ บุคคลใดบุคคลหนึ่งนั้นถูกทำให้เด่นชัดขึ้นมา นี่คือจุดศูนย์รวมข้อมูลของโซเชียลเน็ทเวิรก์ทั้งหลาย คนที่เป็นจุดศูนย์รวมเหล่านี้ได้แก่ ผู้จัดการ คนที่แสดงความเห็นทางสังคม ผู้นำทั้งหลาย และคนเหล่านี้ก็ยังจะถูกแยกแยะ ลักษณะการเกี่ยวข้องทางสังคมโดยอัตโนมัติ จากพฤติกรรมการสื่อสารของเขา ทีนี้ ถ้าคุณเป็นนักการตลาด คุณอาจจะพุ่งเป้าไปที่คนเหล่านี้ ด้วยการเสนอตัวอย่างสินค้าของคุณ หรือพยายามที่จะขายแบรนด์ของคุณ ผ่านกลุ่มเครือข่ายทางสังคมของพวกเขา แต่ถ้าคุณเป็นตัวแทนของรัฐบาล และกำลังมองหาศัตรูทางการเมือง คุณก็ลบพวกเขา กำจัดคนเหล่านั้น สร้างความวุ่นวายให้กับกลุ่มทางสังคมนั้น และคนที่อยู่เบื้องหลังความเกี่ยวข้องทางสังคมเหล่านั้น และองค์กรเหล่านั้น ในโลกของการเติบโตอย่างรวดเร็วของอาวุธหุ่นยนต์ ที่มีราคาย่อมเยา เขตชายแดนระหว่างประเทศจะให้ความคุ้มครองพวกเราได้เพียงนิดเดียวเท่านั้น ในสายตาของรัฐบาลประเทศใดประเทศหนึ่งจากแดนไกล หรือองค์กรก่อการร้ายข้ามชาติ การเคลื่อนไหวที่เรียกร้องให้เกิดความเปลี่ยนแปลงนั้นกำลังได้รับความนิยม และมันอาจกลายเป็นสิ่งที่ทำให้ทราบข้อมูลเกี่ยวกับผู้นำและทำให้จัดการกับผู้นำได้อย่างรวดเร็ว ก่อนที่ความคิดนี้จะสำเร็จผลในวงกว้าง แล้วความคิดที่จะทำให้เกิดผลในวงกว้าง ก็คือสิ่งที่นักเคลื่อนไหวทางการเมือง ของรัฐบาลทั้งหลายที่กำลังพยายามทำอยู่ การมีอาวุธทำลายล้างที่มีอานุภาพสูงอาจทำให้เกิดผลถึงแก่ชีวิตได้ ซึ่งเป็นทางออกที่ง่ายดายเหลือเกิน สำหรับความขัดแย้งทางผลประโยชน์ต่างๆ นี่จะทำให้การกล่าวสุนทรพจน์ เพื่อแสดงความคิดเห็นดูน่ากลัวขึ้นอีกมาก และทำให้การแสดงออกทางการเมือง ซึ่งเป็นหัวใจของระบอบประชาธิปไตย กลายเป็นเรื่องน่าผวา
And this is why we need an international treaty on robotic weapons, and in particular a global ban on the development and deployment of killer robots. Now we already have international treaties on nuclear and biological weapons, and, while imperfect, these have largely worked. But robotic weapons might be every bit as dangerous, because they will almost certainly be used, and they would also be corrosive to our democratic institutions.
และนี่คือสาเหตุที่เราจำเป็นต้องมีสนธิสัญญาระหว่างประเทศ เกี่ยวกับการพัฒนาหุ่นยนต์เป็นอาวุธ ซึ่งควรเป็นสนธิสัญญานานาชาติเพื่อห้าม การพัฒนา หรือการทดลองใช้หุ่นยนต์นักฆ่า ในตอนนี้เราได้มีสนธิสัญญาเพื่อห้ามใช้ อาวุธนิวเคลียร์ และอาวุธชีวภาพแล้ว และถึงแม้ว่ามันจะไม่สมบูรณ์แบบ แต่มันก็ใช้ได้ผลดีในระดับหนึ่ง แต่อาวุธหุ่นยนต์นั้นก็น่าจะเป็นอันตราย พอๆกับอาวุธร้ายแรงทั้งสองอย่างนั้น เพราะว่ามันค่อนข้างจะแน่นอนว่ามันจะถูกนำไปใช้ และมันก็จะบ่อนทำลาย ระบอบการปกครองแบบประชาธิปไตยของเรา
Now in November 2012 the U.S. Department of Defense issued a directive requiring a human being be present in all lethal decisions. This temporarily effectively banned autonomous weapons in the U.S. military, but that directive needs to be made permanent. And it could set the stage for global action. Because we need an international legal framework for robotic weapons. And we need it now, before there's a devastating attack or a terrorist incident that causes nations of the world to rush to adopt these weapons before thinking through the consequences. Autonomous robotic weapons concentrate too much power in too few hands, and they would imperil democracy itself.
ในเดือนพฤศจิกายน ปี 2012 กระทรวงกลาโหมสหรัฐ ได้ออกกฏซึ่งบังคับ ให้มีมนุษย์อยู่เป็นพยานในการตัดสินใจโจมตีทุกครั้ง ซึ่งนี่เป็นกฏที่แสดงถึงการห้ามการใช้หุ่นยนต์ ในการปฏิบัติการโดยอัตโนมัติในกองทัพสหรัฐ แต่คำสั่งนี้ควรได้รับการปรับปรุงให้มีการบังคับใช้อย่างถาวร และมันควรจะเป็นสิ่งที่เกิดขึ้นในเวทีโลก เพราะว่าเราต้องการกรอบทางกฏหมายในระดับนานาชาติ เพื่อบังคับเรื่องการใช้อาวุธหุ่นยนต์ และเราต้องการมันในขณะนี้ ก่อนที่จะเกิดการโจมตีร้ายแรง หรือเหตุการณ์ก่อการร้ายที่ทำให้ทุกชาติในโลก รีบนำอาวุธเหล่านั้นมาใช้ โดยไม่ทันได้คำนึงถึงผลที่จะตามมา อาวุธที่เป็นหุ่นยนต์อัตโนมัติ เป็นการรวมอำนาจไว้ ในกำมือคนเพียงไม่กี่คน และพวกเขาก็จะกลายเป็นภัยคุกคามต่อระบอบประชาธิปไตย
Now, don't get me wrong, I think there are tons of great uses for unarmed civilian drones: environmental monitoring, search and rescue, logistics. If we have an international treaty on robotic weapons, how do we gain the benefits of autonomous drones and vehicles while still protecting ourselves against illegal robotic weapons?
ทีนี้ อย่าเข้าใจผิดนะครับ ผมคิดว่ายังมีคนอีกเป็นจำนวนมาก ที่ใช้งานหุ่นยนต์ที่ไม่ได้ติดอาวุธ เพื่อวัตถุประสงค์ในการดำรงชีวิตทั่วไป ใช้ช่วยงานด้านสิ่งแวดล้อม ใช้ค้นหาและช่วยเหลืองานด้านการขนส่งสินค้า ถ้าเรามีการเซ็นต์สนธิสัญญา ว่าด้วยการห้ามพัฒนาหุ่นยนต์เป็นอาวุธ แล้วเราจะใช้ประโยชน์จากหุ่นยนต์อัตโนมัติ และยานพาหนะต่างๆ พร้อมกับที่เราป้องกันตัวเราเอง จากการใช้หุ่นยนต์เป็นอาวุธอย่างผิดกฏหมายได้อย่างไร ?
I think the secret will be transparency. No robot should have an expectation of privacy in a public place.
ผมคิดว่ามันเป็นเรื่องจำเป็น ที่ความลับเหล่านี้ต้องมีความโปร่งใส และไม่ควรมีหุ่นยนต์ตัวไหนควรจะได้รับความเป็นส่วนตัว ในสถานที่ชุมนุมชน
(Applause)
(เสียงปรบมือ)
Each robot and drone should have a cryptographically signed I.D. burned in at the factory that can be used to track its movement through public spaces. We have license plates on cars, tail numbers on aircraft. This is no different. And every citizen should be able to download an app that shows the population of drones and autonomous vehicles moving through public spaces around them, both right now and historically. And civic leaders should deploy sensors and civic drones to detect rogue drones, and instead of sending killer drones of their own up to shoot them down, they should notify humans to their presence. And in certain very high-security areas, perhaps civic drones would snare them and drag them off to a bomb disposal facility.
หุ่นยนต์และหุ่นบังคับระยะไกลควรจะมี การสลักเลขประจำตัวบนตัวถังตั้งแต่ที่โรงงาน ซึ่งจะทำให้เราสามารถติดตามความเคลือนไหวของพวกมัน ในสถานที่สาธารณะได้ เรามีป้ายทะเบียนสำหรับรถยนต์ มีเลขที่เครื่องบิน เพราะฉะนั้น นี่ก็ไม่ต่างกัน และประชาชนทุกคนก็ควรจะสามารถดาวน์โหลดแอพพลิเคชั่น ที่จะใช้แสดงจำนวนประชากรของหุ่นควบคุม และหุ่นยนต์โดยสารอัตโนมัติเหล่านี้ว่า พวกหุ่นกำลังเคลื่อนที่ไปมาอย่างไรในพื้นที่รอบๆตัวพวกเขา โดยเป็นข้อมูลทั้งในแบบที่เป็นจริง และในเชิงประวัติ และผู้นำชุมชนควรจะมีเซ็นเซอร์สำหรับหุ่นที่ใช้ในครัวเรือน เพื่อตรวจสอบหุ่นเถื่อน แทนที่เราจะส่งหุ่นชนิดเดียวกันออกไปทำลายหุ่น พวกมันควรแจ่งให้มนุษย์ทราบเมื่อมันจะบุกรุก และในบางกรณี ในพื้นที่ๆต้องการการรักษาความปลอดภัย เราอาจจะใช้หุ่นตามบ้านในการจัดการกับหุ่นเหล่านั้น เพื่อลากเอาหุ่นเหล่านั้นไปทำลาย
But notice, this is more an immune system than a weapons system. It would allow us to avail ourselves of the use of autonomous vehicles and drones while still preserving our open, civil society.
แต่สังเกตดูนะครับว่า นี่น่าจะดูมีลักษณะคล้ายกับการเป็นระบบภูมิคุ้มกัน มากกว่าที่จะเป็นอาวุธ มันจะทำให้เราสามารถมีข้ออ้างในการใช้ หุ่นยนต์และพาหนะโดยสารที่ควบคุมโดยหุ่นยนต์ โดยที่ยังรักษาสถานภาพของสังคมเปิด และมีวัฒนธรรมของเราไว้ได้
We must ban the deployment and development of killer robots. Let's not succumb to the temptation to automate war. Autocratic governments and criminal organizations undoubtedly will, but let's not join them. Autonomous robotic weapons would concentrate too much power in too few unseen hands, and that would be corrosive to representative government. Let's make sure, for democracies at least, killer robots remain fiction.
เราควรต่อต้านการพัฒนาและการใช้ หุ่นยนต์นักฆ่า อย่ายอมลงให้กับความเป็นไปได้ในการเกิดสงครามหุ่นยนต์ องค์กรก่อการร้ายและรัฐบาลเผด็จการทั้งหลาย น่าจะใช้ประโยชน์จากสิ่งนี้แน่ แต่พวกเราจะไม่ปล่อยให้เป็นอย่างนั้น อาวุธอัตโนมัติที่เป็นหุ่นยนต์นั้น จะไม่รวบอำนาจที่มากมายเกินไป เข้าไปอยู่ในมือของคนไม่กี่คน มันเป็นเรืองที่ออกจะกัดกร่อนสถานะของรัฐ แต่เราควรทำให้แน่ใจว่า อย่างน้อยก็เพื่อประชาธิปไตย หุ่นยนต์นักฆ่า ก็จะยังคงเป็นเพียงจินตนาการต่อไป
Thank you.
ขอบคุณครับ
(Applause) Thank you. (Applause)
(เสียงปรบมือ) ขอบคุณครับ (เสียงปรบมือ)