I thought I'd begin with a scene of war. There was little to warn of the danger ahead. The Iraqi insurgent had placed the IED, an Improvised Explosive Device, along the side of the road with great care. By 2006, there were more than 2,500 of these attacks every single month, and they were the leading cause of casualties among American soldiers and Iraqi civilians. The team that was hunting for this IED is called an EOD team— Explosives Ordinance Disposal—and they're the pointy end of the spear in the American effort to suppress these roadside bombs. Each EOD team goes out on about 600 of these bomb calls every year, defusing about two bombs a day. Perhaps the best sign of how valuable they are to the war effort, is that the Iraqi insurgents put a $50,000 bounty on the head of a single EOD soldier.
חשבתי להתחיל עם סצנה מתוך מלחמה. לא היתה התרעה רבה על הסכנה המתקרבת המורדים העירקים הציבו מטען, מטען מאולתר, לצד הדרך. ב 2006 היו יותר מ 2500 מטענים כאלו כל חודש והם היו הגורם המוביל לנפגעים בקרב חיילים אמריקאים ואזרחים עירקיים הקבוצה הזו שצדה מטענים נקראה יס"פ יחידה לסילוק פצצות והם היו חוד החנית במאמץ האמריקאי להפסיק את מטעני הצד. כל צוות יס"פ יוצאת בערך ל 600 קריאות לסילוק פצצות כל שנה, מנטרלים בערך שתי פצצות ביום. אולי הסימן הטוב ביותר לעד כמה הם חשובים למאמץ המלחמתי, הוא שהמורדים העירקים הציעו פרס של 50000 דולר על ראשו של חייל יס"פ אחד.
Unfortunately, this particular call would not end well. By the time the soldier advanced close enough to see the telltale wires of the bomb, it exploded in a wave of flame. Now, depending how close you are and how much explosive has been packed into that bomb, it can cause death or injury. You have to be as far as 50 yards away to escape that. The blast is so strong it can even break your limbs, even if you're not hit. That soldier had been on top of the bomb.
לרוע המזל, הקריאה הזו לא הסתיימה טוב. כאשר החייל התקדם מספיק קרוב בכדי לראות את התיל הממעיד של הפצצה, היא הופעלה והתפוצצה. עכשיו, זה תלוי בכמה קרוב אתה נמצא וכמה חומר נפץ הוכנס בפצצה, היא יכולה לגרום למוות או פציעה. אתה צריך להיות במרחק של 45 מטרים בכדי להימלט ממנה. הפיצוץ חזק כל כך שהוא אפילו עלול לשבור לך את הצלעות אפילו עם לא נפגעת. החייל היה בדיוק על הפצצה.
And so when the rest of the team advanced they found little left. And that night the unit's commander did a sad duty, and he wrote a condolence letter back to the United States, and he talked about how hard the loss had been on his unit, about the fact that they had lost their bravest soldier, a soldier who had saved their lives many a time. And he apologized for not being able to bring them home. But then he talked up the silver lining that he took away from the loss. "At least," as he wrote, "when a robot dies, you don't have to write a letter to its mother."
וכאשר יתר הקבוצה התקדמה הם כמעט ולא מצאו דבר. ובאותו הלילה מפקד היחידה עשה מטלה עצובה, הוא כתב מכתב ניחומים חזרה לארה"ב ובו הוא דבר על כמה קשה האובדן ליחידה שלו ועל כך שהם איבדו את החייל האמיץ ביותר שלהם, חייל אשר הציל את חייהם פעמים רבות. והוא התנצל על כך שהוא לא הצליח להחזיר אותם הביתה. אבל אז הוא מדבר על בטנת הכסף שהוא לקח מהאובדן. "לפחות" הוא כתב " כאשר רובוט מת, אתה לא צריך לכתוב מכתב לאמא שלו."
That scene sounds like science fiction, but is battlefield reality already. The soldier in that case was a 42-pound robot called a PackBot. The chief's letter went, not to some farmhouse in Iowa like you see in the old war movies, but went to the iRobot Company, which is named after the Asimov novel and the not-so-great Will Smith movie, and... um... (Laughter)... if you remember that in that fictional world, robots started out carrying out mundane chores, and then they started taking on life-and-death decisions. That's a reality we face today.
הסצנה הזאת יכולה להשמע כמו מדע בדיוני, אבל שדה הקרב הזה הוא כבר מציאות. החייל במקרה הזה הוא רובוט במשקל 20 ק"ג שנקרא פקבוט המכתב של המפקד לא הגיע לחווה באיווה כמו שאתם רואים בסרטי מלחמה ישנים, אלא לחברת אי רובוט, שנקראת על שם רומן של אסימוב ועל שם סרט לא כל כך מוצלח של וויל סמית, ו.אאמ....(צחוק) אם תזכרו את זה בעולם האמיתי, רובוטים התחילו לבצע משימות שגרתיות, וכעת הם מתחילים לדבר על לקחת החלטות של חיים ומוות. זאת המציאות שאיתה אנחנו מתמודדים היום.
What we're going to do is actually just flash a series of photos behind me that show you the reality of robots used in war right now or already at the prototype stage. It's just to give you a taste. Another way of putting it is you're not going to see anything that's powered by Vulcan technology, or teenage wizard hormones or anything like that. This is all real. So why don't we go ahead and start those pictures.
מה שאנחנו הולכים לעשות הוא למעשה להציג סדרה של תמונות מאחורי שיראו לכם את הרובוטים שאנחנו משתמשים בהם במלחמה כרגע, או שהם עדיין בשלב האב טיפוס. זה רק בכדי לתת לכם טעימה. במילים אחרות, אתם לא הולכים לראות שום דבר שמונע ע"י טכנולוגית וולקן, נערים מלאי הורמונים או כל דבר דומה לזה. זה הכל אמיתי. טוב אז למה שלא נתחיל עם התמונות?
Something big is going on in war today, and maybe even the history of humanity itself. The U.S. military went into Iraq with a handful of drones in the air. We now have 5,300. We went in with zero unmanned ground systems. We now have 12,000. And the tech term "killer application" takes on new meaning in this space.
משהו גדול קורה עם מלחמה היום, ואולי בהיסטוריה האנושית באופן כללי. הצבא האמריקאי נכנס לעירק עם קומץ מלטים באוויר, כיום יש לנו 5300 נכנסנו עם 0 מערכות קרקעיות לא מאוישות, והיום יש לנו 12000 והמונח ה"טכנולוגיה קטלנית" מקבל משמעות חדשה בתחום הזה.
And we need to remember that we're talking about the Model T Fords, the Wright Flyers, compared to what's coming soon. That's where we're at right now. One of the people that I recently met with was an Air Force three-star general, and he said basically, where we're headed very soon is tens of thousands of robots operating in our conflicts, and these numbers matter, because we're not just talking about tens of thousands of today's robots, but tens of thousands of these prototypes and tomorrow's robots, because of course, one of the things that's operating in technology is Moore's Law, that you can pack in more and more computing power into those robots, and so flash forward around 25 years, if Moore's Law holds true, those robots will be close to a billion times more powerful in their computing than today.
אנחנו צריכים לזכור שאנחנו מדברים על מודל טי של פורד ועל המטוס של האחים רייט, בהשוואה לדברים שהולכים לבוא. זה איפה שאנחנו כיום. אחד האנשים שפגשתי לאחרונה הוא גנרל שלושה כוכבים מחיל האויר,והוא אמר, "הכיוון הכללי אליו אנחנו הולכים בקרוב, הוא עשרות אלפים של רובוטים בעימותים שלנו.",והמספרים האלה חשובים מכיוון שאנחנו לא רק מדברים על עשרות אלפים של רובוטים של היום, אלא גם על עשרות אלפי אבי טיפוס, ועל הרובוטים של המחר. כמובן שאחד הדברים שמלווים הפעלת טכנולוגיה כזאת הוא חוק מור, שאומר שאתה יכול לערום עוד ועוד כוח חישוב בתוך הרובוטים האלה אז בקפיצה לעוד 25 שנים לעתיד, אם חוק מור עדין יתפוס, הרובוטים האלה יהיו פי מיליארד יותר חזקים בכוח החישוב שלהם מהיום.
And so what that means is the kind of things that we used to only talk about at science fiction conventions like Comic-Con have to be talked about in the halls of power and places like the Pentagon. A robots revolution is upon us.
ומה שזה אומר שהדברים שעליהם נהגנו לדבר רק בכנסים של מדע בידיוני, צריכים להיות חלק מהדיון אצל מקבלי ההחלטות,מקומות כמו הפנטגון. מהפכת הרובוטים מתקרבת אלינו.
Now, I need to be clear here. I'm not talking about a revolution where you have to worry about the Governor of California showing up at your door, a la the Terminator. (Laughter)
ואנחנו צריכים להיות ברורים פה. אני לא מדבר על מהפכה שבה אתם צריכים להיות מודאגים שמושל קליפורניה ידפוק לכם על הדלת בתור המחסל מ"שליחות קטלנית". (צחוק)
When historians look at this period, they're going to conclude that we're in a different type of revolution: a revolution in war, like the invention of the atomic bomb. But it may be even bigger than that, because our unmanned systems don't just
כשהיסטוריונים יביטו על התקופה הזאת הם הולכים להגיד שאנחנו בסוג אחר של מהפכה: מהפכה במלחמה, כמו המצאת פצצת האטום. אבל זה יכול להיות אפילו גדול מזה, מכיוון שמערכות לא מאויישות
affect the "how" of war-fighting, they affect the "who" of fighting at its most fundamental level. That is, every previous revolution in war, be it the machine gun, be it the atomic bomb, was about a system that either shot faster, went further, had a bigger boom. That's certainly the case with robotics, but they also change the experience of the warrior and even the very identity of the warrior.
לא רק משפיעות על איך נלחמים, הן משפיעות על מי נלחם ברמה הבסיסית ביותר. כל מהפכה קודמת במלחמה מכונת היריה, הפצצה האטומית סבבה סביב מערכת שירתה מהר יותר, הגיעה רחוק יותר, עשתה פיצוץ גדול יותר זה בהחלט גם המקרה עם רובוטים. אבל הם גם משנים את החוויה של הלוחם, ואפילו את הזהות של הלוחם.
Another way of putting this is that mankind's 5,000-year-old monopoly on the fighting of war is breaking down in our very lifetime. I've spent the last several years going around meeting with all the players in this field, from the robot scientists to the science fiction authors who inspired them to the 19-year-old drone pilots who are fighting from Nevada, to the four-star generals who command them, to even the Iraqi insurgents who they are targeting and what they think about our systems, and what I found interesting is not just their stories, but how their experiences point to these ripple effects that are going outwards in our society, in our law and our ethics, etc. And so what I'd like to do with my remaining time is basically flesh out a couple of these.
צורה אחרת להסתכל על זה היא שהמונופול האנושי בן 5000 השנים של לחימה במלחמות מתפרק לחלקים בימי חיינו. השקעתי את השנים האחרונות בלהסתובב ולהיפגש עם כל השחקנים בתחום, ממדענים המתעסקים ברובוטים, וסופרי מדע בדיוני שנתנו להם את ההשראה, לטייס מל"ט בין 19 שנלחם מנוואדה, ולגנרל 4 כוכבים שמפקד עליהם, ועד למורדים העירקים שהמל"טים מטווחים, ומה הם חושבים על המערכות שלנו. מה שהיה מעניין הוא לא רק הסיפור שלהם, אלא איך ההתנסויות שלהם מצביעות לאפקט הגלים שמתקדמים החוצה לחברה שלנו, לחוק שלנו ולכללי האתיקה שלנו. אז מה שאני רוצה לעשות עם הזמן שנשאר לי הוא להציג בקצרה כמה מהרעיונות האלו.
So the first is that the future of war, even a robotics one, is not going to be purely an American one. The U.S. is currently ahead in military robotics right now, but we know that in technology there's no such thing as a permanent first move or advantage. In a quick show of hands, how many people in this room still use Wang Computers? (Laughter) It's the same thing in war. The British and the French invented the tank. The Germans figured out how to use it right, and so what we have to think about for the U.S. is that we are ahead right now, but you have 43 other countries out there working on military robotics, and they include all the interesting countries like Russia, China, Pakistan, Iran.
הדבר הראשון הוא שעתיד המלחמה אפילו עתיד רובוטי, לא הולך להיות מושפע ע"י ארה"ב בלבד. ארה"ב כרגע מובילה בתחום הרובוטים הצבאיים, אבל אנחנו יודעים שבטכנולוגיה אין דבר כזה מקום ראשון קבוע ומוחלט בהצבעה מהירה, כמה מהאנשים בחדר עדיין משתמשים במחשבי וונג? (צחוק) הדבר דומה במלחמה הבריטים והצרפתים המציאו את הטנק, הגרמנים הבינו איך להשתמש בו בצורה נכונה.ולכן מה שאנחנו צריכים לחשוב עליו בשביל ארה"ב הוא שאנחנו מובילים עכשיו אבל יש 43 מדינות אחרות שעובדות על רובוטים צבאיים, והן כוללות את כל הארצות המעניינות כמו רוסיה,סין,פקיסטן ואירן.
And this raises a bigger worry for me. How do we move forward in this revolution given the state of our manufacturing and the state of our science and mathematics training in our schools? Or another way of thinking about this is, what does it mean to go to war increasingly with soldiers whose hardware is made in China and software is written in India?
וזה מוסיף דאגה נוספת בשבילי. איך אנחנו מקדמים את המהפכה הזאת בהתחשב ביכולת היצור שלנו, בהתחשב ביכולת ההכשרה של מדענים ומתמטיקאים בבית הספר שלנו? או דרך נוספת לחשוב על זה היא, מה זה אומר ללכת למלחמה כאשר החיילים בה מכילים חומרה המיוצרת בסין,ותוכנה שנכתבת בהודו?
But just as software has gone open-source, so has warfare. Unlike an aircraft carrier or an atomic bomb, you don't need a massive manufacturing system to build robotics. A lot of it is off the shelf. A lot of it's even do-it-yourself. One of those things you just saw flashed before you was a raven drone, the handheld tossed one. For about a thousand dollars, you can build one yourself, equivalent to what the soldiers use in Iraq.
אבל בדיוק כמו שתוכנה נהפכה להיות קוד פתוח, ככה גם כלי מלחמה. שלא כמו נושאת מטוסים או פצצה אטומית, לא צריך מערכות יצור מסיבי בכדי לבנות רובוטים,רוב החלקים הם סטנדרטים ונמצאים על המדף,וחלק מהם אפילו ניתן לעשות בשיטת "עשה זאת בעצמך" אחד הדברים שראיתם קודם היה מזל"ט מסוג רייבן, מזל"ט הנזרק ביד. בעבור כ1000 דולר אתם יכולים לבנות אחד בעצמכם, שווה ערך למה שהחיילים משתמשים בעירק.
That raises another wrinkle when it comes to war and conflict. Good guys might play around and work on these as hobby kits, but so might bad guys. This cross between robotics and things like terrorism is going to be fascinating and even disturbing, and we've already seen it start.
זה מעלה דאגות נוספות כשזה מגיע לסכסוכים ומלחמות,חברה טובים אולי ישחקו ויעבדו על מוצרים כאלה בתור תחביב, אבל אולי גם אנשים רעים יעבדו על זה. השילוב בין רובוטים וטרור, הולך להיות מרתק ואפילו מטריד. אנחנו כבר ראינו את זה מתחיל.
During the war between Israel, a state, and Hezbollah, a non-state actor, the non-state actor flew four different drones against Israel. There's already a jihadi website that you can go on and remotely detonate an IED in Iraq while sitting at your home computer.
במהלך המלחמה בין ישראל, מדינה, לבין חיזבאללה, ארגון שהוא לא מדינה חיזבאללה הטיסה 4 כטב"מים שונים כנגד ישראל. יש כבר אתר ג'יהאד שאתה יכול להכנס אליו ולפוצץ מרחוק מטען נפץ בעירק, בזמן שאתה יושב מול המחשב הביתי שלך.
And so I think what we're going to see is two trends take place with this. First is, you're going to reinforce the power of individuals against governments, but then the second is that we are going to see an expansion in the realm of terrorism. The future of it may be a cross between al Qaeda 2.0 and the next generation of the Unabomber. And another way of thinking about this is the fact that, remember, you don't have to convince a robot that they're gonna receive 72 virgins after they die to convince them to blow themselves up.
אז אני חושב שאנחנו הולכים לראות שני טרנדים שיקחו תפקיד. דבר ראשון אנחנו הולכים לראות התחזקות של הכוח של אנשים כנגד ממשלות. הדבר השני הוא שאנחנו הולכים לראות התרחבות בממלכת הטרור. העתיד של זה יכלו להיות עירוב בין אל קעידה 2.0 והדור הבא של היוניבומר. דרך נוספת לחשוב על זה היא העובדה,זכרו, אתם לא צריכים לשכנע רובוט שהוא הולך לקבל 72 בתולות אחרי שהוא מת, בכדי לשכנע אותם לפוצץ את עצמם.
But the ripple effects of this are going to go out into our politics. One of the people that I met with was a former Assistant Secretary of Defense for Ronald Reagan, and he put it this way: "I like these systems because they save American lives, but I worry about more marketization of wars, more shock-and-awe talk, to defray discussion of the costs. People are more likely to support the use of force if they view it as costless."
אבל ההשפעה של הדברים האלה יכולה להכנס לתוך הפוליטיקה שלנו.אחד האנשים שפגשתי היה עוזר למזכיר ההגנה בתקופת רונלד רייגן. והוא אמר את זה בצורה הבאה, "אני אוהב את המערכות האלה מכיוון שהם מצילות חיים של חיילים אמריקאים,אבל אני מודאג ממסחור של מלחמות, יותר דיבורים של הלם ואימה שידחו שיחות על מחיר. סביר להניח שאנשים יתמכו בשימוש בכוח אם הם יראו את זה כחסר עלות."
Robots for me take certain trends that are already in play in our body politic, and maybe take them to their logical ending point. We don't have a draft. We don't have declarations of war anymore. We don't buy war bonds anymore. And now we have the fact that we're converting more and more of our American soldiers that we would send into harm's way into machines, and so we may take those already lowering bars to war and drop them to the ground.
בעייני רובוטים זה סוג מסוים של אופנה שכבר לוקחת חלק בפוליטיקה שלנו, ואולי תקח אותם לנקודת הסוף. אין לנו גיוס. אין לנו הצהרות של מלחמה יותר. אנחנו לא קונים יותר אגרות חוב למימון המלחמה ועכשיו אנחנו מחליפים יותר ויותר יותר ויותר חיילים אמריקאים שהיינו שולחים למקומות מסוכנים במכונות. וככה אנחנו לוקחים את הרף הנמוך של מלחמה ומורידים אותו עוד יותר נמוך.
But the future of war is also going to be a YouTube war. That is, our new technologies don't merely remove humans from risk. They also record everything that they see. So they don't just delink the public: they reshape its relationship with war. There's already several thousand video clips of combat footage from Iraq on YouTube right now, most of it gathered by drones.
אבל העתיד של המלחמה הולך להיות מלחמת יוטיוב. הטכנולוגיה שלנו לא רק מרחיקה אנשים מאיזור הסכנה, היא גם מקליטה כל דבר שהיא רואה. ככה שהן לא רק מחברות את הציבור, הן מעצבות מחדש את היחסים שלו עם מלחמה. יש כבר כמה אלפי סרטונים של צילומי לחימה מעירק, ביוטיוב כבר עכשיו, רוב הסרטונים נאספו ע"י מל"טים.
Now, this could be a good thing. It could be building connections between the home front and the war front as never before. But remember, this is taking place in our strange, weird world, and so inevitably the ability to download these video clips to, you know, your iPod or your Zune gives you the ability to turn it into entertainment.
זה יכול להיות דבר טוב, זה יכול לבנות חיבור בין החזית והבית כמו שלא היה אף פעם. אבל זכרו שזה קורה בעולם המוזר שלנו, ולכן בהכרח קיימת האפשרות להוריד את הסרטים האלה לאייפוד או לזון שלכם ולהפוך אותם למשהו מבדר.
Soldiers have a name for these clips. They call it war porn. The typical one that I was sent was an email that had an attachment of video of a Predator strike taking out an enemy site. Missile hits, bodies burst into the air with the explosion. It was set to music. It was set to the pop song "I Just Want To Fly" by Sugar Ray.
לחיילים יש שם לסרטונים האלה, הם קוראים להם פורנו של מלחמה. סרטון טיפוסי שאני קבלתי הגיע במייל שהכיל קובץ מצורף של סרטון של מל"ט פרדטור מפציץ, אתר של האויב, טיל פוגע, וגופות מתעופפות באוויר בפיצוץ. צורפה לסרטון מוזיקה, זאת היתה מוזיקה של שיר פופ "אני רק רוצה לעוף" של שוגר ריי.
This ability to watch more but experience less creates a wrinkle in the public's relationship with war. I think about this with a sports parallel. It's like the difference between watching an NBA game, a professional basketball game on TV, where the athletes are tiny figures on the screen, and being at that basketball game in person and realizing what someone seven feet really does look like.
היכולת לצפות יותר אבל לחוות פחות, יוצרת עוד דאגות ביחסים בין הציבור למלחמה. כשאני חושב על זה אני משתמש במקבילה מעולם הספורט. זה כמו ההבדל בין לצפות במשחק NBA, משחק כדורסל מקצועני, בטלוויזיה, משחק שבו האתלטים הם דמויות זעירות על המסך. לבין להיות במשחק הכדורסל באמת ולהבין איך באמת נראה אדם בגובה שני מטרים
But we have to remember, these are just the clips. These are just the ESPN SportsCenter version of the game. They lose the context. They lose the strategy. They lose the humanity. War just becomes slam dunks and smart bombs.
אנחנו חייבים לזכור אלה רק סרטונים אלה רק פרסומות של המשחק הם מאבדים את ההקשר שלהם, הם מאבדים את האסטרטגיה. הם מאבדים את האנושיות שלהם מלחמה נהיית פשוט הטבעות ופצצות חכמות
Now the irony of all this is that while the future of war may involve more and more machines, it's our human psychology that's driving all of this, it's our human failings that are leading to these wars.
עכשיו האירוניה בכל זה, בעוד שהעתיד של המלחמה עלול להכיל עוד ועוד מכונות, זה הפסיכולוגיה האנושית שמניעה את כל זה אלה הרגשות האנושים שמובילים את המלחמות האלה.
So one example of this that has big resonance in the policy realm is how this plays out on our very real war of ideas that we're fighting against radical groups. What is the message that we think we are sending with these machines versus what is being received in terms of the message.
אז דוגמה אחת לזה שהיה לה השפעה גדולה בעולם הפוליטי, היא איך זה משפיע על מלחמת הרעיונות האמיתית, שאנחנו נלחמים כנגד קבוצות רדיקליות מהו המסר שאנחנו חושבים שאנחנו שולחים עם המכונות האלה, כנגד מה המסר שמתקבל
So one of the people that I met was a senior Bush Administration official, who had this to say about our unmanning of war: "It plays to our strength. The thing that scares people is our technology." But when you go out and meet with people, for example in Lebanon, it's a very different story. One of the people I met with there was a news editor, and we're talking as a drone is flying above him, and this is what he had to say. "This is just another sign of the coldhearted cruel Israelis and Americans, who are cowards because they send out machines to fight us. They don't want to fight us like real men, but they're afraid to fight, so we just have to kill a few of their soldiers to defeat them."
אחד האנשים שפגשתי היה בכיר בממשל בוש שדבר על מלחמה לא מאויישת "זה משחק לטובת מאזן הכוח שלנו. הדבר שמפחיד אנשים זה הטכנולוגיה שלנו". אבל כשאתה נפגש עם אנשים, לדוגמה בלבנון,זה סיפור אחר לגמרי. אחד האנשים שפגשתי שם היה עורך חדשות, ובזמן שדברנו מל"ט טס מעלינו. זה מה שהוא אמר. "זה רק סימן נוסף של הלב הקר, והרוע של הישראלים והאמריקאים, שהם פחדנים בגלל שהם שולחים מכונות להילחם בנו. הם לא רוצים להילחם בנו כמו גברים אמיתיים, אבל הם מפחדים להילחם. אז אנחנו יכולים להרוג מספר מועט של חיילים בכדי להביס אותם."
The future of war also is featuring a new type of warrior, and it's actually redefining the experience of going to war. You can call this a cubicle warrior. This is what one Predator drone pilot described of his experience fighting in the Iraq War while never leaving Nevada. "You're going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car and you drive home and within 20 minutes, you're sitting at the dinner table talking to your kids about their homework."
העתיד של המלחמה יוצר גם סוג חדש של לוחמים. ולמעשה זה מגדיר מחדש את החוויה של לצאת למלחמה. אתם יכולים לקרוא לזה לוחם הקוביה זה תיאור של אחד מטייסי המל"טים על חווית הלחימה שלו במלחמה בעירק בזמן שהוא מעולם לא עזב את נוואדה "אתה הולך ל 12 שעות, יורה בנשקים על מטרות, מחסל לוחמי אויב ואז נכנס למכונית ונוסע הביתה ותוך עשרים דקות אתה יושב ליד שולחן ארוחת הערב מדבר עם הילדים שלך על שיעורי בית".
Now, the psychological balancing of those experiences is incredibly tough, and in fact those drone pilots have higher rates of PTSD than many of the units physically in Iraq. But some have worries that this disconnection will lead to something else, that it might make the contemplation of war crimes a lot easier when you have this distance. "It's like a video game," is what one young pilot described to me of taking out enemy troops from afar. As anyone who's played Grand Theft Auto knows, we do things in the video world that we wouldn't do face to face.
האיזון הפסיכולוגי של החוויות האלה הוא קשה במיוחד ולמעשה בקרב טייסי המל"טים האלה יש אחוז גבוה מאד של תסמונת פוסט טראומטית מאשר יחידות רבות שנמצאות פיזית בעירק. אבל חלק חוששים שהניתוק הזה יוביל למשהו אחר, שהוא יהפוך את שקילת פשעי המלחמה קלה בהרבה, כשיש לך את המרחק. "זה כמו משחק וידיאו" זה מה שאחד מהטייסים הצעירים הסביר לי על חיסול של לוחמי אויב מרחוק. כל מי ששיחק GTA יודע, אנחנו עושים דברים בעולם הוירטואלי שאנחנו לא יכולים לעשות פנים מול פנים.
So much of what you're hearing from me is that there's another side to technologic revolutions, and that it's shaping our present and maybe will shape our future of war. Moore's Law is operative, but so's Murphy's Law. The fog of war isn't being lifted. The enemy has a vote.
הרבה ממה שאתם שומעים ממני זה שיש צד נוסף למהפכה טכנולוגית וזה מעצב את ההווה ואולי את העתיד של המלחמה. חוק מור פועל אבל גם חוק מרפי. ערפל הקרב עדיין לא התפוגג, לאויב יש השפעה על התהליך
We're gaining incredible new capabilities, but we're also seeing and experiencing new human dilemmas. Now, sometimes these are just "oops" moments, which is what the head of a robotics company described it, you just have "oops" moments. Well, what are "oops" moments with robots in war? Well, sometimes they're funny. Sometimes, they're like that scene from the Eddie Murphy movie "Best Defense," playing out in reality, where they tested out a machine gun-armed robot, and during the demonstration it started spinning in a circle and pointed its machine gun at the reviewing stand of VIPs. Fortunately the weapon wasn't loaded and no one was hurt, but other times "oops" moments are tragic, such as last year in South Africa, where an anti-aircraft cannon had a "software glitch," and actually did turn on and fired, and nine soldiers were killed.
אנחנו צוברים יכולות חדשות. אבל אנחנו גם חווים דילמות אנושיות חדשות. לעיתים יש גם רגעי "אופס", זאת הצורה שבה ראש חברת רובוטיקה תיאר את זה."פשוט יש לך רגעי "אופס," טוב מה הם רגעי האופס האלה עם רובוטים ומלחמה? לעיתים הם מצחיקים. לעיתים הם כמו הסצנה מהסרט של אדי מרפי, הגנה מירבית, משוחק במציאות,הם בוחנים רובוט החמוש במכונת ירייה ובמהלך ההדגמה הוא מתחיל להסתובב במעגלים ולכוון את מכונת היריה שלו על יציע האח"מים למרבה המזל הנשק לא היה טעון ואף אחד לא נפגע. אבל במקרים אחרים רגעי אופס כאלה הם טרגים, כמו בדרום אפריקה בשנה שעברה, שם תותח נגד מטוסים חווה "באג בתוכנה" ובאמת פנה וירה ותשעה חיילים נהרגו.
We have new wrinkles in the laws of war and accountability. What do we do with things like unmanned slaughter? What is unmanned slaughter? We've already had three instances of Predator drone strikes where we thought we got bin Laden, and it turned out not to be the case. And this is where we're at right now. This is not even talking about armed, autonomous systems with full authority to use force. And do not believe that that isn't coming. During my research I came across four different Pentagon projects on different aspects of that.
יש לנו קמטים חדשים בחוקים של מלחמה ואחריות. מה אנחנו עושים עם דברים כמו טבח לא מאויש? מה זה טבח לא מאויש? כבר היו לנו 3 תקריות של מל"ט פרדטור שהפציץ במקום שבו חשבנו שבו נמצא בין לאדן, והסתבר למעשה שהוא לא שם. זה המקום שבו אנחנו נמצאים עכשיו. ואנחנו לא מדברים עדיין על מערכות אוטונומיות חמושות עם אישור מלא להפעיל כוח, ואל תחשבו שזה לא מגיע. במהלך המחקר שלי נתקלתי ב 4 פרויקטים שונים בפנטגון על אספקטים שונים של זה.
And so you have this question: what does this lead to issues like war crimes? Robots are emotionless, so they don't get upset if their buddy is killed. They don't commit crimes of rage and revenge. But robots are emotionless. They see an 80-year-old grandmother in a wheelchair the same way they see a T-80 tank: they're both just a series of zeroes and ones. And so we have this question to figure out: How do we catch up our 20th century laws of war, that are so old right now that they could qualify for Medicare, to these 21st century technologies?
וכך נוצרת השאלה: איך זה מקדם נושא כמו פשעי מלחמה? רובוטים הם חסרי רגשות אז הם לא מתרגשים שחבר שלהם נהרג. הם לא מבצעים פשעים של כעס ונקמה. אבל רובוטים הם חסרי רגשות, הם רואים סבתא בת 80 בכסא גלגלים באותה הצורה שהם רואים טנק טי 80: שניהם רק סדרה של 0 ו 1. וככה נוצרת השאלה שאותה צריך לברר: איך אנחנו משכתבים את חוקי המלחמה של המאה ה 20, שהם כל כך מיושנים שהם יכולים להתקבל לבית אבות, ומתאימים את החוקים האלו לטכנולוגיות של המאה ה21.
And so, in conclusion, I've talked about what seems the future of war, but notice that I've only used real world examples and you've only seen real world pictures and videos. And so this sets a great challenge for all of us that we have to worry about well before you have to worry about your Roomba sucking the life away from you. Are we going to let the fact that what's unveiling itself right now in war sounds like science fiction and therefore keeps us in denial? Are we going to face the reality of 21st century war? Is our generation going to make the same mistake that a past generation did with atomic weaponry, and not deal with the issues that surround it until Pandora's box is already opened up?
לסיכום, אני דברתי על מה שנראה כמו המלחמה של העתיד, אבל שימו לב שאני השתמשתי רק בדוגמאות מהעולם האמיתי,ואתם ראיתם רק תמונות וסרטים אמיתיים. וזה מציב אתגר גדול לכולנו,שלו אנחנו צריכים לדאוג הרבה לפני שאנחנו מוודאים שהרומבה לא שואבת מאיתנו את החיים שלנו. האם אנחנו עומדים לתת לעובדה שמה שמתגלה עכשיו במלחמה נשמע כמו מדע בדיוני ולכן שומר עלינו בהכחשה? האם אנחנו עומדים לקבל את המציאות של מלחמה במאה ה 21? האם הדור שלנו עומד לעשות את אותן השגיאות שעשה הדור לפנינו עם נשקים גרעיניים,ולא להתמודד עם הנושאים שסובבים את הנושא הזה עד אשר תיבת פנדורה פתוחה?
Now, I could be wrong on this, and one Pentagon robot scientist told me that I was. He said, "There's no real social, ethical, moral issues when it comes to robots. That is," he added, "unless the machine kills the wrong people repeatedly. Then it's just a product recall issue."
יכול להיות שאני טועה ומדען רובוטים של הפנטגון אמר לי שאני טועה,הוא אמר " אין שום נושא מצפוני, סוציאלי, חברתי" "כשזה מגיע לרובוטים." זה נכון" הוא הוסיף " כל עוד המכונות לא הורגות" "את האנשים הלא נכונים פעם אחר פעם" "אז זה רק נושא של החזרת מוצר תקול".
And so the ending point for this is that actually, we can turn to Hollywood. A few years ago, Hollywood gathered all the top characters and created a list of the top 100 heroes and top 100 villains of all of Hollywood history, the characters that represented the best and worst of humanity. Only one character made it onto both lists: The Terminator, a robot killing machine. And so that points to the fact that our machines can be used for both good and evil, but for me it points to the fact that there's a duality of humans as well.
ולכן הסיכום של כל זה, למעשה אנחנו יכולים לפנות להוליווד לפני כמה שנים הוליווד אספה את הדמויות המובילות ויצרה רשימה של מאה גיבורים ומאה הנבלים בכל ההיסטוריה של הוליווד הדמויות שמיצגות את הטוב והרע ביותר של האנושות, רק דמות אחת הופיעה בשתי הרשימות, המחסל, רובוט שהוא מכונת הרג. זה מצביע על העובדה שהמכונות שלנו יכולות לשמש גם לטוב וגם לרע, אבל עבורי זה מצביע על העובדה שיש כפילות עבור בני אדם גם כן.
This week is a celebration of our creativity. Our creativity has taken our species to the stars. Our creativity has created works of arts and literature to express our love. And now, we're using our creativity in a certain direction, to build fantastic machines with incredible capabilities, maybe even one day an entirely new species. But one of the main reasons that we're doing that is because of our drive to destroy each other, and so the question we all should ask: is it our machines, or is it us that's wired for war?
זהו שבוע שבו אנו חוגגים את היצירתיות שלנו. היצירתיות שלנו לקחה את המין שלנו לכוכבים. היצירתיות שלנו יצרה אומנות וספרות בכדי לבטא אהבה, ועכשיו אנחנו משתמשים ביצירתיות בכיוון מסוים, בכדי לבנות מכונות מופלאות, עם יכולות מדהימות, ואולי ביום מן הימים מין חדש לגמרי. אבל אחת הסיבות העיקריות שבגללן אנחנו עושים את זה זה מכיוון שיש לנו דחף להרוס זה את זה.ואז השאלה שצריכה להשאל, האם המכונות שלנו או שאנחנו מחוברים למלחמה?
Thank you. (Applause)
תודה רבה (מחיאות כפיים)