Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
כח. זו המילה שעולה בדעתנו. אנחנו הטכנולוגים החדשים. יש לנו המון נתונים, לכן יש לנו המון כח. כמה כח יש לנו? קטע מסרט: "אפוקליפסה עכשיו" -- סרט נהדר. אנו חייבים להעביר את גיבורנו, קפטן וילארד, אל מוצא נהר ה"נונג" כדי שיוכל לרדוף אחר קולונל קורץ. אנו נעשה זאת בדרך של הטסתו לשם והשלכתו. זה הקטע: השמיים מלאים בצי של מסוקים הנושא אותו. ויש את המוסיקה הרועשת והמפחידה ברקע, מוזיקה פראית זו. ♫ דאם דא טא דא דאם ♫ ♫ דאם דא טא דא דאם ♫ ♫ דאם טא דא דא ♫ זו המון עוצמה. זו העוצמה שאני מרגיש באולם זה. זה סוג העוצמה שיש לנו בגלל כל הנתונים שיש לנו.
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
הבה ניקח דוגמא אחת. מה אנו יכולים לעשות רק עם נתונים של אדם אחד? מה אנו יכולים לעשות עם נתונים של אותו אדם? אני יכול להסתכל בנתונים הכספיים שלך. אני יכול לומר אם אתה משלם חשבונות בזמן. אני יודע אם אתה טוב בשביל לתת לך הלוואה. אני יכול להסתכל בתיק הרפואי שלך, אני יכול לראות אם המשאבה שלך עדיין פועמת -- ולראות אם כדאי להציע לך ביטוח. אני יכול להסתכל לתוך דפוסי ההקשות שלך. כאשר אתה מגיע לאתר שלי, אני כבר יודע מה אתה הולך לעשות, כי ראיתי אותך כבר מבקר מיליוני אתרים. ואני מצטער לומר לך, שאתה כמו שחקן פוקר, מופיעים עליך סימנים. מניתוח הנתונים אני יכול לומר מה אתה הולך לעשות לפני שאתה עצמך אפילו עושה. אני יודע מה אתה אוהב. אני יודע מי אתה. וזה אפילו לפני שראיתי את הדואר שלך או את הטלפון שלך.
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
אלה מסוג הדברים שאנו יכולים לעשות בעזרת הנתונים שיש לנו. אבל בעצם אני לא נמצא כאן כדי לדבר מה אנו יכולים לעשות. אני כאן כדי לדבר מה אנו צריכים לעשות. מהו הדבר הנכון לעשותו?
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
אני מבחין בכמה מבטים משתאים כאילו, "מדוע אתה שואל אותנו מהו הדבר הנכון לעשות? אנו רק בונים את הדברים. מישהו אחר משתמש בזה." זה די נכון. אבל זה מחזיר אותי אחורה. אני חושב על מלחמת העולם השניה -- כמה מאנשי הטכנולוגיה הגדולים שלנו אז, כמה מהפיזיקאים הגדולים שלנו, שחקרו ביקוע והיתוך גרעיניים -- פשוט דברים גרעיניים. אספנו ביחד פיזיקאים אלו בלוס אלמוס כדי לראות מה הם יוכלו לבנות. אנו רוצים שאנשים ייצרו טכנולוגיה בחושבנו על מה שאנו צריכים לעשות עם הטכנולוגיה.
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
אז מה עלינו לעשות עם הנתונים של אותו אדם? האם עלינו להמשיך לאסוף אותם, כדי שנוכל לשפר את חוויית האינטרנט שלו? כדי שנוכל לעשות כסף? כדי להגן על עצמנו אם הוא עושה בעיות? או שעלינו לכבד את פרטיותו, לשמור על כבודו ולעזוב אותו לנפשו? מהו הדבר הנכון? כיצד נוכל לדעת זאת?
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
אני יודע: הבה נעשה לזה מיקור-קהל. לכן בתור תרגיל-חימום לקהל, נתחיל עם שאלה קלה -- משהו שאני בטוח שלכל אחד כאן יש דעה עליו: אייפון כנגד אנדרואיד. בואו נעשה הצבעה -- אייפון. אה הה. אנדרואיד. אפשר היה לחשוב שעם חבורת אנשים פיקחים לא נהיה כאלה פראיירים הנמשכים רק לטלפונים יפים. (צחוק) שאלה הבאה, קצת יותר קשה. האם עלינו לאסוף את כל הנתונים של אותו אדם כדי לשפר את החווייה שלו וכדי להגן עלינו אם במקרה הוא עושה צרות? או שעלינו לעזבו לנפשו? לאסוף את נתוניו. לעזבו לנפשו. אתם מוגנים. זה בסדר גמור. (צחוק) טוב, שאלה אחרונה -- יותר קשה -- כאשר מנסים להעריך מה עלינו לעשות במקרה כזה, האם עלינו להשתמש בעקרונות מוסר דיאונטולוגיים של קאנט, או שעלינו לעשות שימוש בעקרונות מוסר תוצאתיים של מיל? קאנט. מיל. אין הרבה דעות כמו קודם. (צחוק) זו תוצאה מפחידה. מפחידה כי יש לנו דעות יותר מוצקות על המכשירים הנישאים שלנו מאשר על עקרונות מוסר שעלינו להשתמש בהם כקוים מנחים להחלטותינו.
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
כיצד נדע מה לעשות עם כל הכח שבידינו אם אין לנו עקרונות מוסר? אנו יודעים יותר על מערכות הפעלה לטלפונים ניידים, אבל מה שאנו באמת זקוקים לו זה מערכת הפעלה למוסר. מהי מערכת הפעלה למוסר? כולנו יודעים מה טוב ומה רע. אנו מרגישים טוב כאשר עושים משהו נכון, אנו מרגישים רע כאשר עושים משהו שגוי. הורינו חינכו אותנו לזה: דברי שבח על משהו טוב, נזיפה על משהו רע. אבל כיצד יודעים מה נכון ומה לא? ומיום ליום, יש לנו טכניקות שאנו משתמשים. אולי אנו רק פועלים על-פי תחושות בטן. אולי אנו עושים הצבעה -- מיקור-קהל. או אולי מהמרים -- שואלים את המחלקה למשפטים ומחכים לחוות דעתה. במילים אחרות, זה הכל אקראי, מין אילתור, איך שאנו מגלים מה עלינו לעשות. ואולי, אם ברצוננו להיות יותר בטוחים, מה שאנו באמת צריכים זה עקרונות מוסר שיסייעו לנו להגיע לזה, שיגידו לנו מלכתחילה מהם הדברים הנכונים ומהם הלא נכונים, וכיצד נדע במצב נתון מה לעשות.
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
אז הבה נבנה עקרונות מוסר. אנו אנשי המספרים, חיים על-פי מספרים. כיצד נוכל להשתמש במספרים כבסיס לעקרונות מוסר? אני מכיר מישהו שעשה בדיוק זאת, אדם מבריק -- הוא מת לפני 2,500 שנה. אפלטון, הוא בדיוק. זוכרים אותו -- פילוסוף זקן? בטח ישנתם באותו שיעור. ואפלטון, היו לו אותן הדאגות שיש לנו. הוא היה מודאג בקשר לטוב ורע. הוא רצה לדעת מה צודק. אבל הוא היה מודאג שכל מה שאנו עושים זה החלפת דעות על כך. הוא אומר שמשהו צודק. היא אומרת שמשהו אחר צודק. זה די משכנע כאשר הוא מדבר וגם כאשר היא מדברת. אבל אנו הולכים רק קדימה ואחורה; אנו לא מגיעים לשום מקום. אני לא רוצה דעות, אני רוצה ידע. ברצוני לדעת את האמת על צדק -- כמו שיש לנו אמיתות במתמטיקה. במתמטיקה אנו יודעים עובדות אובייקטיביות. קחו מספר, כל מספר -- 2. מספר אהוב עליי. אני מת עליו. ישנן אמיתות על 2. אם יש לנו 2 דברים, ומוסיפים להם 2 נוספים, מקבלים 4. זה תמיד נכון, לא משנה על איזה דברים מדובר. זוהי אמת אובייקטיבית על אופיו של 2, האופי המופשט. יש לנו 2 מכל דבר -- 2 עיניים, 2 אוזניים, 2 אפים, פשוט 2 בליטות -- כולם מאופיינים ב-2. כולם משתתפים באמיתות שיש ב-2. לכולם מהם יש 2-יות בתוכם. ולכן, זה לא עניין של דעה.
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
ומה אם, אפלטון היה חושב שאתיקה זה כמו מתמטיקה? מה אם ישנן צורות טהורות של צדק? מה אם יש אמיתות על צדק, ופשוט יכולנו להסתכל מסביב בעולם ולראות איזה דברים משתתפים בזה, מאופיינים באותה צורת צדק? אז היינו יודעים מה באמת צודק ומה לא. זה לא היה רק עניין של דעה או מראה. זהו חזון נפלא. כלומר, חישבו על כך. כמה אדיר, כמה שאפתני. זה כמה שאנו שאפתניים. הוא רוצה לפתור אתיקה. הוא רוצה אמיתות אובייקטיביות. אם אתם חושבים בדרך זו, יש לכם עקרונות מוסר אפלטוניים.
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
אם אינכם חושבים בדרך זו, אתם בחברה מאוד גדולה בהיסטוריה של הפילוסופיה המערבית, בגלל שהרעיון של הסדר -- נמתחה עליו ביקורת. אריסטו, במיוחד, הוא לא שבע נחת. הוא סבר שזה לא מעשי. אריסטו אמר, "עלינו לחפש רק את אותו דיוק בכל נושא כפי שאותו נושא מאפשר." אריסטו סבר שאין האתיקה דומה כל-כך למתמטיקה. הוא סבר שאתיקה זה עניין של לקבל החלטות כאן ועכשיו בעזרת מיטב שיקול דעתנו כדי למצוא את השביל הנכון. אם אתם חושבים כך, אפלטון הוא לא האיש שלכם. אבל לא להתייאש. אולי יש דרך נוספת שבה נוכל להשתמש במספרים כבסיס לעקרונות מוסר.
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
מה דעתכם על זה: מה אם היינו יכולים פשוט לחשב כל מצב, לראות את האפשרויות, לאמוד איזו יותר טובה וכך לדעת מה לעשות? נשמע מוכר? אלה הם עקרונות מוסר תועלתניים. ג'ון סטיוארט מיל היה חסיד גדול שלהן -- חוץ מזה אדם נחמד -- רק מת כבר 200 שנה. כך שבסיס של תועלתנות -- אני בטוח שלפחות שמעתם על זה. שלושת האנשים שהצביעו קודם בעד מיל בטח מכירים זאת. וכך זה עובד. מה אם התשובה לשאלה אם משהו מוסרי, היא רק עניין של אם זה ממקסם הנאה ומצמצם כאב? זה עושה משהו מהותי ופנימי לפעולה. זה לא כמו הקשר שלו לאיזו צורה מופשטת. זה פשוט עניין של תוצאות. פשוט מסתכלים על התוצאות ורואים, אם זה לטובה או לרעה. זה יהיה פשוט. ואז נדע מה לעשות.
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
ניקח מקרה לדוגמא. נניח שאני בא ואומר, "אני הולך לקחת את הנייד שלך." לא רק בגלל שהוא צילצל קודם, אלא כי עשיתי חישוב קטן. חשבתי שהאדם שם נראה חשוד. ומה אם הוא שולח הודעות קצרות אל מחבוא של בין-לאדן -- או מי שבא אחרי בין-לאדן -- הוא בעצם כמו מחבל, תא רדום. אני הולך לגלות זאת, וכאשר אגלה, אמנע נזק גדול מאוד שהוא יכל לגרום. לפעולה זו יש תועלת גדולה מאוד של מניעת נזק. ובהשוואה לכאב הקטן שהיא יכולה לגרום -- מכיוון שהולך להיות מביך כאשר אסתכל על הנייד שלו ואמצא שיש לו בעיה במשחק רשת וכל זה -- אבל כל זה מתגמד מול הערך של להסתכל בנייד שלו. אם גם אתם מרגישים כך, זוהי בחירה תועלתנית.
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
ואולי אתם לא מרגישים כך. אולי אתם חושבים, זה הנייד שלו. זה לא בסדר לקחת את הנייד שלו, מכיוון שהוא אדם ויש לו זכויות ויש לו כבוד-עצמי, ואל לנו סתם כך לתחוב את אפינו. יש לו אוטונומיה. זה לא משנה מה השיקולים. יש דברים שהם באופן מהותי ופנימי עוול -- כמו שלשקר זה רע, כמו שלענות ילדים תמימים זה רע. קאנט מאוד צדק בעניין זה, והוא ביטא את זה יותר טוב ממני. הוא אמר שעלינו להשתמש בשכל שלנו כדי לגלות את הכללים שעלינו להתנהג לפיהם. ואז זו חובתנו לציית לכללים אלה. אין זה עניין של חישובים.
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
אז הבה נעצור. אנחנו ממש בסבך העניינים, בסבך הפילוסופי הזה. וזה נמשך כבר אלפי שנים, מכיוון שאלו הן שאלות קשות, ולי יש רק 15 דקות. לכן נגיע לעיקר. כיצד עלינו לקבל החלטות? האם זה אפלטון, האם זה אריסטו, האם זה קאנט, או אולי מיל? מה עלינו לעשות? מה התשובה? מהי הנוסחה שעלינו להשתמש בה בכל מצב כדי לקבוע מה עלינו לעשות, באם עלינו להשתמש בנתוני אותו אדם או לא? מהי הנוסחה? אין נוסחה. אין תשובה פשוטה.
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
אתיקה זה דבר מסובך. אתיקה דורשת חשיבה. וזה לא נוח. ביליתי חלק גדול מהקריירה שלי בבינה מלאכותית, בניסיון לבנות מכונות שתוכלנה לחשוב במקומנו, שתוכלנה לתת לנו תשובות. אבל הן לא יכולות. אי-אפשר פשוט לקחת חשיבה אנושית ולשים אותה במכונה. אנחנו אלה שנצטרך לעשות זאת. לשמחתנו, אנו לא מכונות ואנו יכולים לעשות זאת. לא רק שאנו יכולים לחשוב, אלא אנו חייבים. חנה ארדנט אמרה, "האמת העצובה היא שרוב הרע שנעשה בעולם זה, אינו נעשה על-ידי אנשים אשר בוחרים לעשות רע. אלא הוא נובע מחוסר חשיבה." לזה היא קראה "הבנליות של רוע". וכמענה לזה, אנו דורשים את תירגול החשיבה מכל אדם שפוי.
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
אז הבה נעשה זאת, הבה נחשוב. בעצם, בואו נתחיל כבר עכשיו. שכל אחד באולם יעשה את זה: שיחשוב על הפעם האחרונה שהיה עליו לקבל החלטה כאשר דאגת בקשר לעשיית הדבר הנכון, כאשר תהית, "מה אני אמור לעשות?" תיזכרו בזה. וכעת תהרהרו בזה ותאמרו, "כיצד הגעתי להחלטה זו? מה עשיתי? האם פעלתי לפי תחושותיי? האם היה לי מישהו שיביע את דעתו? או שפניתי לחוק?" או כעת שיש לנו יותר אפשרויות: "האם בדקתי מתי תהיה ההנאה הגדולה ביותר כמו שמיל היה עושה? או כמו קאנט, האם השתמשתי בשכל כדי למצוא מה היה נכון מהותית ופנימית?" תחשבו על זה. באמת תביאו את עצמכם לחשוב. זה חשוב. זה כל-כך חשוב שאנו עומדם להעביר 30 שניות מהזמן היקר של הרצאת TED כדי לא לעשות כלום אלא לחשוב על זה. האם אתם מוכנים? תתחילו.
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
עיצרו. עבודה טובה. מה שעשיתם כרגע, היה הצעד הראשון אל עבר לקיחת אחריות על מה שאנו צריכים לעשות עם כל הכח שבידינו.
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
כעת לצעד הבא -- נסו את זה. תמצאו חבר והסבירו לו כיצד הגעתם להחלטה. לא מייד. חכו עד שאסיים לדבר. תעשו זאת בזמן ארוחה. ואל תמצאו רק עוד חבר טכנולוגי; תמצאו מישהו שונה מכם. תמצאו אמן או סופר -- או, חס וחלילה, תמצאו פילוסוף ותשוחחו עימם. בעצם, תמצאו מישהו ממדעי הרוח. למה? מכיוון שהם חושבים על בעיות באופן שונה מאיתנו הטכנולוגים. רק לפני מספר ימים, ממש מעבר לכביש כאן, היו מאות אנשים שנאספו. היו אלה טכנולוגים ואנשי מדעי הרוח בכנס BiblioTech הגדול. הם נאספו ביחד כי הטכנולוגים רצו ללמוד איך זה יהיה לחשוב מנקודת מבט של מדעי הרוח. היה שם מישהו מגוגל ששוחח עם מישהו שעוסק בספרות השוואתית. אתם שואלים את עצמכם על ההשפעה של תאטרון צרפתי מן המאה ה-17 -- כיצד הוא קשור להון-סיכון? כל זה מעניין. זוהי דרך חשיבה אחרת. וכאשר חושבים בדרך זו, אנו הופכים ליותר רגישים לשיקולים אנושיים, שהם המפתח לקבלת החלטות אתיות.
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
אז דמיינו שממש עכשיו נתקלתם בחברכם המוזיקאי. ואתם מספרים לו על מה שאנו מדברים עכשיו, על מהפכת הנתונים וכל זה -- אולי אפילו תזמזמו כמה תווים ממוזיקת הנושא שלנו. ♫ דאם טא דא דא דאם דאם טא דא דא דאם ♫ החבר המוזיקאי שלכם יקטע אתכם ויאמר, "אתה יודע, מוזיקה זו שקשורה למהפכת הנתונים שלך, היא אופרה, זהו ואגנר. היא מבוססת על אגדה נורבגית. אלה הם אלים ויצורים מיתולוגיים הנלחמים על אבני חן קסומות." זה מעניין. אז עכשיו זו גם אופרה יפה. וזה נוגע לליבנו, אותה אופרה. היא נוגעת לליבנו כי היא על הקרב בין טוב לרע, על מה נכון ומה לא נכון. ולנו אכפת מה נכון ומה לא. אכפת לנו מה קורה באותה אופרה. אכפת לנו מה קורה ב"אפוקליפסה עכשיו". ובטוח אכפת לנו מה קורה עם הטכנולוגיות שלנו.
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
יש לנו המון כח היום, ומוטל עלינו לגלות מה עלינו לעשות. ואלה חדשות טובות. אנחנו הם אלה שכותבים את האופרה. זה הסרט שלנו. אנחנו מגלים מה יקרה עם הטכנולוגיה הזו. אנחנו קובעים כיצד כל זה יסתיים.
Thank you.
תודה לכם.
(Applause)
(מחיאות כפיים)