Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
قدرت. این کلمهء است به ذهن خطور میکنه. ما فنآورانِ مدرن هستیم. دادههای زیادی داریم، پس قدرت زیادی داریم. ما چه قدر قدرت داریم؟ صحنهای از یک فیلم: «اینک آخرالزمان»-- فیلم فوقالعادهایه. باید قهرمانمون، کاپیتان هیلارد رو به دهانهی رود نانگ برسونیم تا بتونه کلنل کرتز رو تعقیب کنه. قراره کاپیتان رو از راه هوایی به اونجا برسونیم و پایین بندازیمش. صحنه این طوریه: آسمان مملوء از هلیکوپترهایی که او رو حمل میکنن. و موسیقی بلند و شورانگیزی در پسزمینه وجود داره. یک موسیقی طوفانی: ♫دام دا تا دا دام♫ ♫دام دا تا دا دام♫ ♫دا تا دا دا♫ یک عالم قدرت. این همون قدرتیه که من در این سالن احساس میکنم. این قدرتیه که ما داریم به خاطر همهی دادههایی که داریم.
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
بذارید یک مثال بزنم. با اطلاعاتِ تنها یک فرد چه کارهایی میتونیم بکنیم؟ با اطلاعات اون آقا چه کار میتونیم بکنیم؟ میتونم به سوابق مالیت نگاه کنم. اونوقت میفهمم که قبضهاتو به موقع پرداخت میکنی یا نه. میفهمم شخص مناسبی برای وام دادن هستی یا نه. میتونم به سوابق پزشکیت نگاه کنم، اونوقت میفهمم قلبِت هنوز میتپه یا نه-- میفهمم پیشنهاد بیمه به تو دادن کار مناسبیه یا نه. میتونم به الگوی کلیک کردنِت نگاه کنم. وقتی به وبسایتَم میای، میدونم که قصدِ چه کاری رو داری، چون میدونم میلیونها وب سایتی که قبلا" سرزدی چه سایتهایی بودن. و متأسفم که اینو میگم، تو مثل یه بازیکنِ پوکری. من با تحلیل دادهها میتونم قبل از این که کاری رو انجام بدی، پیشبینی کنم که میخوای انجامش بدی. میدونم چی دوست داری. میدونم کی هستی. و تازه اینا قبل از دیدن ایمیلها یا تلفنِته.
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
اینها کارایی هستن که ما میتونیم با دادههایی که داریم انجام بدیم. ولی من اینجا نیومدم که دربارهی کارهایی که میتونیم انجام بدیم صحبت کنم. اومدم تا دربارهی کاری که باید بکنیم صحبت کنیم. کارِ درست چیه؟
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
میبینم که نگاههاتون متحیره، انگار دارید میگید: «چرا از ما میپرسی کار درست چیه؟ ما صرفا" سیستم رو میسازیم، یه نفر دیگه داره ازش استفاده میکنه.» منطقیه. ولی این منو برمیگردونه به گذشته. به جنگ جهانی دوم فکر میکنم. بعضی از فنآوران ما در اون زمان، بعضی از فیزیکدانهامون، که دربارهء شکافت و همجوشی هستهای مطالعه میکردند -- همون مسائل هستهای. ما این فیزیکدانها رو در لوس آلاموس دور هم جمع میکنیم تا ببینیم چه چیزی خواهند ساخت. ما از سازندهگان تکنولوژی انتظار داریم به این که با این تکنولوژی چه کار باید کرد فکر کنند.
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
خوب حالا ما با اطلاعات اون شخص چه کار باید بکنیم؟ باید جمعشون کنیم تا بتونیم تجربهء آنلاینِ او رو بهبود ببخشیم؟ تا پول بیشتری به دست بیاریم؟ تا اگه او خیالاتِ بدی داشت بهتر بتونیم از خودمون محافظت کنیم؟ یا این که به حریم خصوصیش احترام بذاریم، شأنِش رو حفظ کنیم و راحتش بذاریم؟ کدومش درسته؟ از کجا بفهمیم؟
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
من میگم رأیگیری کنیم. اول بذارید برای دستگرمی، با یه سوال آسون شروع کنیم-- یه چیزی که مطمئنم همه یه نظری دربارهش دارن: آی-فون در مقابل اندروید. دستهاتونو بالا ببرید. آی-فون. آ-اوه. اندروید. آدم از افراد باذکاوتی مثل شما انتظار داره ولعِ گوشیهای صرفا" خوشگل رو نداشتهباشن! (خندهی حضار) سوال بعدی، یه کم سخت تره. آیا ما باید همهی دادههای مربوط به اون شخص رو جمع کنیم تا تجربهش رو بهبود ببخشیم و در صورتی که او خیالاتِ بدی داره از خودمون محافظت کنیم؟ یا باید راحتش بذاریم؟ اطلاعاتِش رو جمع کنیم. راحتش بذاریم. کاریتون ندارم! نتایج خوب بود. (خنده) خوب، سوال آخر-- سوال سخت تریه. وقتی میخوایم گزینههامونو دربارهی سوال قبلی ارزیابی کنیم، آیا باید از چهارچوب اخلاقیِ وظیفهگرایانهی کانت استفاده کنیم، یا از چهارچوب نتیجهگرایانهی میل؟ کانت. میل. چندان نظری ندارید. (خندهی حضار) بله، این نتیجه وحشتناکه. وحشتناکه، چون دیدگاههامون دربارهی دستگاههامون بیشتر شکل گرفته تا دربارهی چهارچوب اخلاقیای که تصمیگیریهامونو هدایت میکنه.
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
اگه چهارچوب اخلاقی مشخصی نداشتهباشیم از کجا بفهمیم که از قدرتِمون چه طور استفاده کنیم؟ ما دربارهی سیستم عاملهای موبایل بیشتر میدونیم، ولی چیزی که واقعن بهش نیاز داریم یک سیستم عامل اخلاق-مداره. سیستم عامل اخلاق-مدار چیه؟ ما همه خوب و بد رو میشناسیم. درست. وقتی کار خوبی میکنیم حس خوبی داریم، و وقتی کار بدی میکنیم حس بدی داریم. پدر و مادرهامون این رو بهمون یاد میدن: تحسین به خاطر کار خوب و سرزنش به خاطر کار بد. ولی از کجا بفهمیم چی خوبه و چی بد؟ در زندهگی روزمره این تکنیکها رو استفاده میکنیم: گاهی به حسّمون تکیه میکنیم. گاهی رأیگیری میکنیم. یا شاید به مراجع قانونی مراجعه کنیم و ببینیم چی میگن. به عبارت دیگه، روش ما برای پیدا کردنِ کاری که باید بکنیم، به نوعی تصادفی یا وابسته به شرایطه. یا شاید، اگه بخوایم خیالِمون راحتتر باشه، واقعا" به یک چهارچوب اخلاقی نیاز داریم که راهنماییمون کنه، و بهمون بگه که در درجهء اول چه چیزهای درست و غلط هستند، و از کجا بفهمیم که در یک وضعیت خاص چی کار کنیم.
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
پس بیاید یک چهارچوب اخلاقی پیدا کنیم. ما آدمهای عددی هستیم، با اعداد زندگی میکنیم. حالا چه طور به عنوان اساس چهارچوب اخلاقیمون از اعداد استفاده کنیم؟ من کسی رو میشناسم که دقیقا" این کار رو کرد، واقعا" مرد باهوشی بود. او 2500 ساله که مرده. پلاتو، درسته. اونو به یاد میارید؟ فیلسوفِ پیر؟ سر اون کلاس خوابیدهبودید. و پلاتو، دغدغههایی داشت که دغدغههای ما هم بودند. او دغدغهی درست و غلط رو داشت. میخواست بدونه عدالت چیه. اما نگرانی او این بود که به نظر میرسه ما داریم نظراتِ مون رو در این زمینه معامله میکنیم. یه نفر میگه این کار عادلانهست، دیگری میگه یه کار دیگه عادلانهست. و هر دوشون به شکل قانعکنندهای از خودشون دفاع میکنن. من فقط عقب و جلو میرم و درجا میزنم. به جایی نمیرسم. من نظرات رو نمیخوام، من دانش میخوام. من میخوام حقیقتِ عدالت رو بدونم-- همون طور که حقایقی در ریاضیات داریم. در ریاضیات، ما واقعیتها رو میدونیم. یه عدد در نظر بگیرید، هر عددی-- دو. عدد موردعلاقهی من. عاشقِ این عددم. حقایقی دربارهی دو وجود داره. اگه دو تا از یک چیز داشته باشین، اگه دو تا دیگه بهش اضافه کنید، چهارتا میشه. این حقیقته و ربطی به چیزی که داری درباره اس می گویی ندارد. این یک حقیقت دربارهی دو است. شکل کلیِ دو. وقتی شما دوتا از هرچیزی دارید-- دو چشم، دو گوش، دو بینی، دو تا برآمدهگی-- اینها همه در شکل دهی به دو شرکت دارند. همه در حقیقتِ دو شرکت دارند. همهی اینها، «دو بودن» رو در خودشون دارند. بنابراین، این ربطی به نظرات نداره.
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
پلاتو فکر کرد، چی میشه اگه اخلاق هم همین طور باشه؟ چی میشه اگه یک شکل مطلق از عدالت وجود داشتهباشه؟ شاید حقایقی دربارهی عدالت وجود دارند، و ما میتونیم به اطرافِ مون نگاه کنیم و بفهمیم چه چیزهایی در این حقایق شرکت دارند، و به اونها شکل میدهند؟ این طوری میفهمیدیم که واقعا" چی عادلانه ست و چی نیست. اون وقت دیگه ربطی به نظرات یا ظواهر امور نداشت. دیدگاه شگفتانگیزیه. منظورم اینه که، بهش فکر کنید. چه قدر بزرگ. چه قدر بلندپروازانه. بلندپرواز، مثل ما. او میخواد راه حلی برای اخلاق پیدا کنه. به دنبال حقائق مطلقه. اگر این طوری فکر کنیم، یک چهارچوبِ اخلاقیِ پلاتویی داریم.
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
اگر این طوری فکر نکنیم، خوب، در این صورت در فلسفهی غرب خیلی ها با ما موافق هستند. چون این ایده خیلی تروتمیزه-- دیگران ازش انتقاد کردند. مخصوصا" ارسطو اصلا" از این ایده خوشش نیومد. چون فکر میکرد عملی نیست. ارسطو میگفت «در هر موضوع، ما تنها به اندازهای دقت دست مییابیم که خودِ موضوع بهمون اجازه میده». ارسطو فکر نمیکرد شباهت زیادی بین اخلاق و ریاضیات وجود داره. او فکر میکرد موضوعِ اخلاق، تصمیمگیری در شرایط فعلی با استفاده از بهترین داوری برای پیدا کردنِ راه درسته. اگر شما این طور فکر میکنید، پلاتو طرفِ شما نیست. اما هنوز تموم نشده. شاید راه دیگهای وجود داره که بتونیم اعداد رو مبنای چهارچوب اخلاقیمون قرار بدیم.
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
این یکی چه طوره: شاید بتونیم توی هر وضعیتی حساب و کتاب کنیم، به گزینههامون نگاه کنیم، بسنجیم که کدوم بهتره و بفهمیم که چی کار بکنیم. آشنا به نظرتون میاد؟ این یک چهارچوب سودگرایانهست. جان استوارت میل طرفدار بزرگِ این چهارچوب بود-- مرد خوبی هم بود-- و فقط 200 ساله که مُرده. پس اساسِ سودگرایی-- مطمئنم که یه چیزهایی دربارهش شنیدید. اون سه نفری که به میل رأی دادند حتما" میدونند که این چهارچوب این طوریه: یک کار اخلاقیه اگر لذت رو به حداکثر برسونه، و رنج رو به حداقل. به ذات اون کار بستگی داره. نه به ارتباطش با یک مطلقِ خارجی. فقط به عواقب اون کار بستگی داره. فقط به عواقب توجه میکنی و تصمیم میگیری که جمعا" به نفعه یا به ضرر. سادهست. این طوری میفهمیم که چی کار کنیم.
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
بیاید به یه مثال بپردازیم. فرض کنید که من بگم «میخوام تلفن شما رو بگیرم». نه به خاطر این که زنگ زد، بلکه چون من کمی حساب و کتاب کردم. فکر کردم که این آقا مشکوک به نظر میرسه. شاید داشته به بن لادن پیغام میداده-- یا به هر کسی که بعد از بن لادن کارها رو دست گرفته-- و در واقع این آقا تروریست به نظر میاد. من باید مطمئن بشم. و اگر حدس من درست باشه، جلوی خسارت بزرگی که اون آقا میتونست ایجاد کنه گرفته شده. جلوگیری از اون خسارت سود خیلی بزرگیه. و در مقایسه با رنج کوچیکی که این کار ایجاد میکنه-- چون به هر حال خجالتآوره که من تلفن اونو نگاه کنم و بفهمم که با فارم ویل درگیره-- این رنج کوچک، در مقابل سودِ نگاه کردن به تلفن، اصلن به چشم نمیاد. اگر شما چنین حسی دارید، انتخابِ شما سودگرایانهست.
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
اما شاید چنین حسی نداشتهباشید. شاید فکر کنید اون صاحب تلفنه. گرفتن تلفنش کار نادرستیه، چون اون یک انسانه و حقوق و حریمی داره، و ما نمیتونیم این قدر ساده به حریمِش تجاوز کنیم. اون اختیار خودشو داره. مهم نیست محاسباتِ ما چی میگن. بعضی چیزها ذاتن نادرست هستند-- مثلن دروغ نادرسته، مثلن شکنجهی کودکان معصوم نادرسته. کانت اینجا حرف خوبی میزنه. التبه خودش کمی بهتر از من بیانش کرده. او میگه ما باید با استفاده از استدلال قوانینی رو بفهمیم که باهاشون رفتارمون رو هدایت کنیم. بعد از اون، وظیفهی ماست که از اون قوانین پیروی کنیم. به محاسبات ربطی نداره.
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
خوب دیگه کافیه. حالا ما در قلب جنگلِ فلسفه هستیم. و این تا هزاران سال ادامه داره، چون اینها سوالهای سختی هستند، و من فقط پانزده دقیقه وقت دارم. بریم سر اصل مطلب. چه طور تصمیمگیری کنیم؟ پلاتو خوبه، یا ارسطو، یا کانت، یا میل؟ چه کار کنیم؟ پاسخ چیه؟ کدوم فرمول میتونه در هر موقعیتی، کار درست رو مشخص کنه، و بگه که آیا ما باید از اطلاعات اون شخص استفاده کنیم یا نه؟ اون فرمول چیه؟ هیچ فرمولی وجود نداره. پاسخ سادهای به این سوال وجود نداره.
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
اخلاق سخته. اخلاق مستلزم فکر کردنه. و ای کار سخته. میدونم، بخش عمدهی شغل من مربوط به هوش مصنوعیه، در تلاش برای ساختن ماشینهایی که بتونن کمی به جای ما فکر کنند، و بتونن جوابهایی به ما بدن. ولی نمیتونن. نمیشه همین طوری تفکر انسان رو برداشت و در یک ماشین قرار داد. ما خودمون باید این کار رو بکنیم. خوشبختانه ما ماشین نیستیم و میتونیم این کار رو بکنیم. ما نه تنها میتونیم فکر کنیم، ما باید( فکر کنیم ). هانا آرنت میگه: «حقیقتِ تلخ اینه که بیشتر کارهایی بدی که در دنیا انجام میشه به دست آدمهایی اتفاق میفته که قصدِ بدی ندارند. و این نتیجهی فکر نکردنه.» اون اسم این رو «پیشپاافتادهگیِ بدی» میذاره. و پاسخش اینه که از هر انسانِ باشعوری انتظار فکر کردن داشتهباشیم.
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
خوب بیاید این کارو بکنیم. بیاید فکر کنیم. بیاید همین الان شروع کنیم. همهی حضار این کار رو بکنند: به آخرین باری که میخواستید تصمیمگیری کنید فکر کنید آخرین باری که دغدغهی انجام کار درست رو داشتید، و از خودتون پرسیدید که «چی کار باید بکنم؟» اون موقعیت رو به یاد بیارید. و حالا بهش فکر کنید. از خودتون بپرسید: «چه طور اون تصمیم رو گرفتم؟ چی کار کردم؟ از حسَّم پیروی کردم؟ رأیگیری کردم؟ یا به قانون مراجعه کردم؟» البته حالا چندتا گزینهی دیگه هم داریم. «آیا محاسبه کردم تا ببینم کدوم کار بیشترین لذت رو داره مثل کاری که میل کرد؟ یا مثل کانت، استدلال کردم تا بفهمم چه کاری ذاتن درسته؟» بهش فکر کنید. سعی کنید به یادش بیارید. مهمه. اون قدر مهمه که میخوایم 30 ثانیه از وقت ارزشمند تد تاک رو فقط به این فکر کنیم. آمادهاید؟ شروع کنید.
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
کافیه. خسته نباشید. کاری که الان شما کردید، اولین قدمه برای پذیرفتنِ مسئولیتِ کاری که میتونیم با این همه قدرتِمون انجام بدیم.
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
حالا قدمِ بعدی-- اینو امتحان کنید. برای یکی از دوستهاتون توضیح بدید که چه طور اون تصمیم رو گرفتید. الان نه. صبر کنید حرفهای من تموم شه. موقع ناهار این کار رو بکنید. دوستی که برای این کار انتخاب میکنید، مثل خودتون فنّی نباشه. کسی رو انتخاب کنید که با شما فرق داشتهباشه. یه هنرمند یا نویسنده-- یا، خدای ناکرده، یه فیلسوف بهتره. در واقع، سعی کنید رشتهش علوم انسانی باشه. چرا؟ چون اونها نگاهشون به مسائل با نگاهِ ما فنّیها فرق داره. همین چند روز پیش، دقیقا" اون طرف خیابون، صدها نفر تجمع کردهبودند. فنیها و علوم انسانیها برای کنفرانس بیبلیوتک اومده بودند. اونا دور هم جمع شدهبودند چون فنیها میخواستند بدونند فکر کردن از چشمانداز به علوم انسانی چه طوریه. فرض کنید یک نفر از گوگل با یک نفر در رشتهی ادبیات قیاسی صحبت میکنه. حتما" دارید فکر میکنید که تئاتر قرن ۱۷ فرانسه چه ربطی به سرمایهگذاری داره؟ این طوری جالب میشه. این یک طرز تفکرِ متفاوته. و وقتی این طوری فکر کنید، نسبت به ملاحظات انسانی که در تصمیمگیریهای اخلاقی نقش مهمی دارند، حساستر میشید.
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
همین حالا تصور کنید که پیش دوستِ موسیقیدانتون میرید. و این حرفها رو براش توضیح میدید، انقلاب اطلاعات و بقیهی چیزها-- و شاید کمی هم موسیقی متنمون رو براش بزنید. ♫ دام تا دا دا دام دام تا دا دا دام ♫ دوست موسیقیدانتون میپره وسط آهنگ و میگه «میدونی؟ موسیقی متن برای انقلاب اطلاعاتی شما، یه اپراست. ونگره. اساسش افسانهی نورسه. به الههها و موجودات اسطورهای میخوره که برای جوهرات جادویی با هم میجنگن» جالبه. حالا قضیه به یه اپرای زیبا هم تبدیل شد. و ما با این اپرا انگیزه میگیریم. انگیزه میگیریم، چون داستان، داستانِ جنگ بین خوبی و بدی و درست و غلطه. و ما به درست و غلط اهمیت میدیم. برامون مهمه که در اون اپرا چه اتفاقی میافته. برامون مهمه که در «اینک آخرالزمان» چه اتفاقی میافته. و مخصوصن برامون مهمه که در فناوریمون چه اتفاقی میافته.
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
ما امروز خیلی قدرتمندیم. تصمیم با خودمونه که چی کار کنیم. و این خبر خوبیه. ما این اپرا رو مینویسیم. این فیلمِ ماست. ما تعیین میکنیم که برای این فناوری چه اتفاقی میافته. ما تعیین میکنیم که آخر قصه چی میشه.
Thank you.
متشکرم.
(Applause)
(تشویق حضار)