Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
พลัง คำนี้เข้ามาในความคิดผม พวกเราเป็นนักเทคโนโลยียุคใหม่ พวกเรา มีข้อมูลมากมาย ดังนั้น พวกเรามีจึงมีพลังอำนาจสูง เรามีพลังอำนาจมากแค่ไหนกัน? ฉากนึงจากภาพยนต์เรื่อง "กองทัพอำมหิต" -- เรื่องนี้ดีนะครับ ในฉากนี้ พระเอกของเรา กัปตัน วิลยาร์ต จะต้องไปให้ถึงปากแม่น้ำนุง เพื่อตามล่า ผู้พัน เคอร์ซ และวิธีเดินทางก็คือ บินไปแล้วหย่อนเขาลง ในฉากนั้น : ท้องฟ้าก็เต็มไปด้วยฝูงบินเฮลิคอปเตอร์นำเขาเข้าไป และขณะนั้น ก็มีเสียงดนตรี เสียงดัง และ ตื่นเต้น บรรเลงเป็นประกอบ ให้อารมณ์ดุดัน ♫ ปัม ปั่ม ปัม ปั๊ม ปาม ♫ ♫ปัม ปั่ม ปัม ป้าม ป่าม♫ ♫ปัม ปั่ม ปาม ป้าม♫ ทรงพลังมาก นั่นเป็นรูปแบบพลังที่ผมรู้สึกได้ภายในห้องนี้ เป็นรูปแบบพลังที่เรามี เพราะว่าข้อมูลทั้งหมดที่เรามี
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
ลองมาดูตัวอย่าง เราทำอะไรได้บ้าง ถ้ามีข้อมูลจากคนๆนึง? เราทำอะไรได้บ้าง กับข้อมูลของคนๆนั้น? ผมดูข้อมูลทางการเงินคุณได้ บอกได้ว่าคุณจ่ายเงินตรงเวลาไหม รู้ว่าควรให้คุณกู้เงินหรือเปล่า ผมสามารถดูประวัติทางการแพทย์ของคุณ ดูว่าปั๊มยังทำงานดีอยู่หรือเปล่า จะได้รู้ว่าควรออกประกันสุขภาพให้คุณไหม ผมสามารถดูว่าคุณมักคลิ๊กดูอะไร เมื่อคุณเข้ามาที่เว็บไซต์ผม จริงๆผมก็รู้แล้วว่าคุณกำลังจะทำอะไร เพราะผมเห็นว่า คุณไปดูเว็บอะไรมาก่อนเป็นล้านๆเว็บ และขอโทษด้วยที่ต้องบอกคุณว่า คุณก็เหมือนคนเล่นโป๊กเกอร์ คุณล่วงรู้ก่อนได้ ผมบอกได้จากการวิเคราะห์ข้อมูล ว่าคุณกำลังจะทำอะไร ก่อนที่คุณจะทำเสียอีก ผมรู้ว่าคุณชอบอะไร รู้ว่าคุณเป็นใคร ก่อนจะเห็นจดหมาย หรือโทรศัพท์ ของคุณ ด้วยซ้ำไป
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
นั่นเป็นสิ่งที่เราสามารถทำได้ ด้วยข้อมูลที่เรามี แต่ผมไม่ได้มาที่นี่ เพื่อจะบอกว่า เราทำอะไรได้ ผมมาที่นี่เพื่อจะพูดเกี่ยวกับสิ่งที่เราควรทำ อะไรเป็นการกระทำที่ถูกต้อง?
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
ตอนนี้ผมเห็นหลายคนส่งสายตาสงสัย แบบว่า "มาถามเราทำไมเนี่ย ว่าการกระทำอะไรเป็นสิ่งที่ถูกต้อง เราก็แค่สร้างสิ่งนี้ขึ้นมา คนอื่นต่างหากที่ใช้มัน" ก็จริงอยู่ครับ แต่มันทำให้ผม กลับมานึกถึงสงครามโลกครั้งที่ 2 ผู้สร้างนวัตกรรมผู้ยิ่งใหญ่บางท่าน นักฟิสิกส์ผู้ยิ่งใหญ่บางท่าน ศึกษานิวเคลียร์ฟิชชั่นและฟิวส์ชั่น ก็แค่เรื่องเกี่ยวกับนิวเคลียร์ เรานำนักฟิสิกส์เหล่านี้มารวมตัวกันที่ ลอส อลามอส ดูว่าพวกเขาจะสร้างอะไรออกมา เราต้องการเห็นคนสร้างสรรค์นวัตกรรม เราคิดถึงว่า เราเป็นอย่างไร เมื่อมีนวัตกรรมเหล่านี้
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
แล้ว เราควรทำอย่างไรกับข้อมูลของคนพวกนี้หล่ะ เราควรเก็บ และทำการรวบรวมมันไหม เพื่อที่เราจะได้ทำให้ประสบการณ์ท่องโลกไซเบอร์ดีขึ้น เพื่อที่เราจะได้ทำเงินหรือเปล่า? เพื่อที่เราจะได้ป้องกันพวกเราเอง ถ้าคนๆนี้กำลังจะก่อเหตุร้าย หรือ เราควรให้ความเคารพกับสิทธิส่วนตัวเขา ปกป้องเกียรติของเขา แล้วอย่างไปยุ่งกับเขา? อย่างไหนดีหล่ะ? แล้วเราจะรู้ได้อย่างไร?
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
ผมรู้: ข้อมูลจากมหาชน ครับมาสำรวจกัน เพื่อเป็นการอุ่นเครื่อง เรามาเริ่มกันที่คำถามง่ายๆ อะไรที่ผมมั่นใจว่าทุกคนที่นี่จะต้องมีความเห็นหล่ะ : ไอโฟน ปะทะ แอนดรอยด์ ไหนยกมือครับ -- ไอโฟน อ่าฮ่า แอนดรอยด์ คุณคิดใช่ไหม คนฉลาดพวกนี้ เราไม่น่าเป็นพวกไม่ได้เรื่องเพียงแค่มีมือถือสวยๆใช้หรอกเนอะ (เสียงหัวเราะ) คำถามถัดไป ยากขึ้นอีกนิด เราควรเก็บข้อมูลของชายคนนั้น เพื่อทำให้เขาได้รับประสบการณ์ที่ดีขึ้น และเพื่อปกป้องพวกเรา ในกรณีที่คนๆนี้กำลังคิดแผนร้าย? หรือว่า เราไม่ควรไปจุ้นจ้านกับเขา? เก็บข้อมูลของเขาไป อย่าไปยุ่งกะเขา คุณปลอดภัยครับ ดีครับ (เสียงหัวเราะ) โอเค คำถามสุดท้าย ยากขึ้นไปอีก เมื่อทำการประเมินผล ในกรณีนี้เราควรทำอย่างไร เราควรใช้ กรอบความคิด หลักศีลธรรม หน้าที่นิยมที่ตายตัว แบบ คานท์ หรือว่า เราควรใช้ แนวผลลัพธ์นิยม แบบ มิลล์? (อิมมานูเอล) คานท์ (จอห์น สจ๊วต) มิลล์ คนโหวตไม่เยอะแฮะ (เสียงหัวเราะ) อืม ผลลัพธ์น่าสะพรึงกลัวครับ มันน่ากลัว เพราะว่าเรามีแนวคิดที่ชัดเจน ที่มีต่อเครื่องมือเครื่องใช้ มากกว่าที่มีต่อ กรอบความคิดทางจริยธรรม ที่เราควรใช้มันเป็นแนวทางการตัดสินใจ
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
เราจะรู้ได้อย่างไร ว่าเราต้องทำอย่างไรกับอำนาจที่เรามี ถ้าเราไม่มี กรอบความคิดทางจริยธรรม เรารู้มากขึ้นเกี่ยวกับระบบปฏิบัติการของโทรศัพท์มือถือ แต่ที่เราต้องการจริงๆคือ ระบบปฏิบัติการทางจริยธรรม แล้ว ระบบปฏิบัติการทางจริยธรรม มันคืออะไรกัน? พวกเรารู้ว่าอะไร ถูก และ ผิด ใช่ไหมครับ ? คุณรู้สึกดี เมื่อเราทำสิ่งที่ถูก คุณรู้สึกแย่ เมื่อทำอะไรที่มันผิด พ่อแม่เราสอนว่า จงสรรเสริญการกระทำดี ตำหนิการกระทำชั่ว แต่ เรารู้ได้อย่างไร ว่าอะไรผิด และ ถูก? และทุกวันนี้ เรามีเทคนิคต่างๆที่เราใช้ บางทีเราเชื่อกึ๋นเรา บางทีเราใช้วิธีโหวต -- เราทำประชานิยม หรือบางที เราก็เสี่ยงเอา ลองถามแผนกกฎหมาย ดูซิว่าพวกเขาจะว่าอย่างไร หรือพูดอีกอย่างคือ มันก็เหมือนจะสุ่มๆ ทำแบบเฉพาะกิจ เราจะรู้ได้อย่างไร ว่าเราควรทำอย่างไร และบางที ถ้าเราต้องการหลักยืนที่มันคงกว่านี้ สิ่งที่เราต้องการจริงๆก็คือ กรอบความคิดทางจริยธรรมที่จะช่วยแนะแนวเรา ซึ่งมันจะบอกเราแต่แรกว่า สิ่งแบบไหนที่ถูก และผิด แล้ว รู้ว่าในสถานการณ์ที่ถูกมอบหมายให้นั้น เราต้องทำอย่างไร
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
ฉะนั้น เรามาสร้างกรอบจริยธรรมกันเถอะ พวกเราเป็นมนุษย์ตัวเลข อยู่กันด้วยตัวเลข เราจะสามารถใช้ตัวเลขได้อย่างไร เพื่อเป็นรากฐานสำหรับกรอบจริยธรรม? ผมรู้จักคนที่ทำแบบนั้นเป๊ะๆ เป็นคนที่ยอดเยี่ยม เขาเพิ่งเสียชีวิตไป 2,500 ปีเอง พลาโต้ ใช่แล้ว จำเขาได้ไหมครับ? นักปรัชญาแก่ๆท่านนี้ คุณคงหลับปุ๋ยในชั่วโมงเรียนนั้น และพลาโต้ เขาก็ตระหนักถึงอะไรหลายๆอย่างเหมือนกันเรา เขาเป็นห่วงเรื่องสิ่งที่ถูก และ ผิด เขาต้องการรู้ว่ามันคืออะไรแน่ แต่เขาเป็นห่วงว่า ที่พวกเราทุกคนทำๆกันอยู่ ก็เป็นแค่การแลกเปลี่ยนความคิดกันไปมา เขาบอกว่าอันนี้ถูก หล่อนบอกว่าอีกอย่างนึงถูก มันฟังดูน่าเชื่อถือเมื่อเขาพูด และเมื่อหล่อนพูด ก็ด้วยเหมือนกัน ผมแค่เดินหน้าแล้วก็ถอยกลับมา ผมไม่ได้ไปไหนเลย ผมไม่ต้องการความเห็นครับ ผมต้องการความรู้ ต้องการรู้ความจริงเกี่ยวกับความเป็นธรรม เหมือนกับที่เรารู้ความจริงทางคณิตศาสตร์ ในวิชาคณิตศาสตร์ เรารู้ในเชิงวัตถุวิสัย เลือกมาสักค่าหนึ่ง เลขอะไรก็ได้ สอง ละกัน เลขโปรดผมเลย ผมชอบเลขนี้ มันมีความจริงเกี่ยวกับค่าที่เท่ากับสองครับ ถ้าคุณมีอะไรสองอย่าง เพิ่มมันเข้าไปอีกสอง คุณจะได้สี่ มันเป็นจริงเสมอ ไม่ว่าสิ่งที่คุณพูดถึงคืออะไร มันเป็นความจริงเชิงวัตถุวิสัยของเลขสอง ในทางทฤษฎี (ที่มองไม่เห็น) เมื่อคุณมีของสองสิ่ง -- สองตา สองหู สองจมูก อะไรสักอย่างสองหน่วย -- ทั้งหมดนั่นเป็นส่วนที่เข้าร่วมเป็นคุณสมบัติของ สอง มันทั้งหมด เข้าร่วมเป็นส่วนของความจริงที่สองเป็น ความเป็น สอง อยู่ในพวกมันทั้งหมด ดังนั้น มันไม่ใช่เรื่องของความเห็น
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
พลาโต้คิด ถ้าหากว่า จริยศาสตร์เป็นเหมือนคณิตศาสตร์หล่ะ ถ้ามันมีรูปแบบความเป็นธรรมที่บริสุทธิ์ ถ้ามันมีความจริงเกี่ยวกับความเป็นธรรม และคุณก็แค่มองไปรอบๆ ในโลกนี้ ดูซิ ว่าสิ่งไหนที่เข้าร่วมด้วย เป็นส่วนร่วมของความเป็นธรรม แล้วคุณก็จะทราบว่า อะไรที่เป็นสิ่งที่ใช่ และอะไรที่ไม่ใช่ มันจะไม่ได้เป็นเพียงแค่ ความเห็น หรือ แค่รูปลักษณ์ที่ปรากฎ นั่นช่างเป็นความเห็นที่น่าทึ่ง ผมหมายถึง ลองคิดดูสิ มันช่างยิ่งใหญ่ ช่างทะเยอทะยาน แสนจะทะเยอทะยาน ไม่ต่างจากพวกเรา เขาต้องการที่จะไขปัญหาทางจริยศาสตร์ เขาต้องการ ความจริงเชิงวัตถุวิสัย ถ้าคุณคิดในแนวนั้น คุณมีกรอบความคิดทางศีลธรรมแบบพลาโต้
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
ถ้าคุณไม่ได้คิดแบบนั้น เอาหล่ะ คุณก็มีพรรคพวกมากมายเลยในประวัติศาสตร์ปรัชญาตะวันตก เพราะว่าความคิดที่เป็นระเบียบแบบแผน -- คุณก็รู้ คนมันจะวิจารณ์มัน โดยเฉพาะ อริสโตเติล เขาไม่ขำด้วยครับ เขาคิดว่า มันเป็นไปไม่ได้ในทางปฏิบัติ อริสโตเติลกล่าวว่า "เราควรค้นหาความแม่นตรงในแต่ละวิชา ตราบแต่ที่วิชานั้นจะเอื้ออำนวย" อริสโตเติลคิดว่า จริยศาสตร์ ไม่ได้เหมือนคณิตศาสตร์มากนัก เขาคิดว่า จริยศาสตร์ เป็นเรื่องของการตัดสินใจ ในสถาณการณ์ต่างๆ โดยใช้การวินิจฉัยที่ดีที่สุดของเรา เพื่อที่จะหาหนทางที่ถูกต้อง ถ้าคุณคิดว่า อืม ไม่ปลื้มพลาโต้แฮะ อย่าเพิ่งถอดใจครับ บางที เรายังมีอีกหนทาง ที่เราจะใช้ตัวเลขเป็นรากฐานของกรอบความคิดทางศีลธรรมของเรา
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
เอาอย่างนี้ไหมครับ ถ้าหากว่าในสถานการณ์ได้ๆ คุณสามารถแค่ทำการคำนวณ ดูตัวเลือก ทำการวัดค่าว่าอันไหนดีที่สุด แล้วรู้ว่าต้องทำอย่างไร? คุ้นๆไหมครับ? นั่นคือกรอบความคิดทางศีลธรรมแบบประโยชน์นิยม (อรรถประโยชน์นิยม) จอห์น สจ๊วต มิลล์ เป็นนักสนับสนุนตัวยง สำหรับทฤษฎีนี้ -- เป็นคนน่ารักนะครับ จะว่าไป -- แล้วก็ เพิ่งตายไป 200 ปีเอง พื้นฐานแนวคิดแบบอรรถประโยชน์นิยม -- อย่างน้อยผมมั่นใจว่าคุณคงคุ้นเคย สามท่านที่โหวตให้ แนวคิดของ มิลล์ ก่อนหน้านี้ คงคุ้นเคยกับมันนะครับ แต่ มันเป็นแบบนี้ครับ จะเป็นอย่างไรถ้าหากว่า ศีลธรรม หรืออะไรสักอย่างที่ทำสักสิ่งคือศีลธรรม เป็นเพียงแค่ เรื่องที่ว่า มันให้ความพอใจสูงสุด และ ให้ความเจ็บปวดน้อยที่สุด? มันส่งผลถึงแก่นแท้ถึงการกระทำ มันไม่เหมือนกับความสัมพันธ์ของมันกับรูปแบบทางทฤษฎี มันเป็นแค่เรื่องของผลลัพธ์ คุณเพียงแค่ดูที่ผลลัพธ์ แล้วพิจารณาว่า โดยรวมแล้ว มันดี หรือว่า มันแย่กว่า นั่นมันก็น่าจะง่ายดี ง่ายกว่าที่เราต้องรู้ว่าต้องทำอะไร
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
ลองมาดูตัวอย่างกันครับ สมมติว่า ผมเดินเข้ามา แล้วบอกว่า "ผมจะเอาโทรศัพท์คุณไปหล่ะนะ" ไม่ใช่เพราะว่าตะกี้มันดังหรอกนะครับ แต่เพราะว่าผมกำลังจะเอามันไป เพื่อจะเอาไปใช้ทำการคำนวณนิดหน่อย ผมคิดว่า คุณคนนั้นดูกังขาน่าสงสัย และ ถ้าเคยใช้โทรศัพท์ส่งข้อความไปยังที่ซ่อนตัวของ บิน ลาเดน หล่ะ หรือส่งหาใครก็ตามที่ดูแล บิน ลาเดน อยู่ แล้ว จริงๆแล้วเขาเป็นเหมือนพวกผู้ก่อการร้าย ร่วมขบวนการกันเลย ผมกำลังจะสืบดู และเมื่อผมทราบแล้ว ผมจะป้องกันความเสียหายอันยิ่งใหญ่ที่เขาจะก่อ นั่นก็จะเป็นประโยชน์อย่างมากมายที่จะป้องกันการเกิดความเสียหาย และเมื่อเปรียบเทียบกับความเจ็บปวดเพียงเล็กน้อยที่จะเกิดขึ้น -- เพราะว่า มันคงจะน่าอับอายเหมือนกัน ที่ผมจะไปดูโทรศัพท์ของเขา และเห็นว่าเขามีปัญหาอยู่ในเกมส์ฟาร์มวิลล์ อะไรก็แนวนั้น-- แต่มันแพ้คว่ำเลยครับ ถ้าเราเปรีบเทียบกับสิ่งที่เราจะได้ จากการดูโทรศัพท์เขา ถ้าคุณรู้สึกเช่นนี้ นี่คือทางเลือกแบบ อรรถประโยชน์นิยม
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
แต่ บางทีคุณก็ไม่ได้คิดแบบนี้อีกเช่นกัน บางที คุณคิดว่า นี่มันโทรศัพท์เขา มันผิด ที่จะไปเอาของเขามา เขาเป็นคนเหมือนกันนะ และเขาก็มีสิทธิ เขามีศักดิ์ศรี และไม่ใช่ว่าเราอยู่ๆเราจะไปแทรกแซงอย่างนั้นได้ เขามีอัตตานัติ (ความเป็นอิสระในการปกครองตนเอง) มันไม่สำคัญว่าการคำนวณพวกนั้นคืออะไร มันมีสิ่งที่โดยเนื้อแท้แล้ว มันผิด -- เหมือนกับ การโกหก เป็นสิ่งที่ผิด เหมือนกับการ ทรมานเด็กๆที่ไร้เดียงสา เป็นสิ่งที่ผิด คาร์ท เป็นคนที่เก่งมากในเรื่องนี้ และเขากล่าวไว้ได้ดีกว่าที่ผมจะพูดนิดหน่อย เขากล่าวไว้ว่า เราควรใช้เหตุผลของเรา เพื่อที่จะคิดกฎระเบียบที่เราสมควรจะใช้ชี้นำพฤติกรรมของเรา และแล้วมันก็เป็นหน้าที่ของเราที่จะทำตามกฎเหล่านั้น มันไม่ใช่เรื่องของการคำนวณ
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
เอาหล่ะ หยุดกันก่อน เราอยู่่ท่ามกลางจุดที่ไม่ชัดเจน เป็นความไม่ชัดเจนทางปรัชญา และมันเป็นมาเช่นนี้นานนับพันๆปีแล้ว ก็เพราะว่ามันเป็นคำถามที่ยาก และผมก็มีเวลาแค่15นาที ฉะนั้นผมผ่าประเด็นเลยก็แล้วกัน เราควรทำตัวอย่างไรในการตัดสินใจ? แบบพลาโต้ อริสโตเติล แบบคาร์ท หรือว่า มิลล์? เราควรจะประพฤติอย่างไร อะไรคือคำตอบ? สูตรอะไรกันที่เราจะมาสามารถใช้ได้ไม่ว่าในสถาณการณ์ใด เพื่อที่จะตัดสินใจว่าเราควรทำเช่นไร ว่าเราควรใช้ข้อมูลของคนๆนี้หรือไม่? สูตรนั้นคืออะไร? มันไม่มีสูตรหรอกครับ มันไม่มีคำตอบที่เรียบง่าย
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
จริยศาสตร์เป็นเรื่องที่ยาก จริยศาสตร์ต้องการความคิด แล้วนั่นมันก็น่าลำบากใจ ผมทราบครับ ผมใช้เวลาส่วนมากในการทำงาน ไปกับ จักรกลอัฉริยะ พยายามที่จะสร้างเครื่องยนต์ที่มีความสามารถบางส่วนเหมือนกับการคิดของเรา นั่นมันอาจให้คำตอบเราได้ แต่มันทำไม่ได้ครับ คุณไม่สามารถแค่เอาความคิดจากมนุษย์ ไปใส่ให้กับเครื่องยนต์ พวกเราเป็นคนที่ต้องทำมัน ช่างน่ายินดี พวกเราไม่ใช่เครื่องจักร และพวกเราทำเช่นนั้นได้ ไม่ใช่เพียงแต่ว่าเราสามารถที่จะคิดได้ แต่เราต้องคิด ฮันนาห์ อเรนตท์ กล่าวว่า "เป็นเรื่องจริงที่น่าเศร้าว่า การกระทำอันชั่วร้ายส่วนใหญ่ในโลกของเรา ไม่ได้เกิดจากมนุษย์ ผู้ที่เลือกที่จะเป็นคนพาล แต่มันเกิดขึ้นมาจากการไม่ได้คิด" นั่นเป็นสิ่งที่เธอเรียกว่า "ความไม่สร้างสรรค์ของสิ่งชั่วร้าย" และการโต้ตอบต่อสิ่งนั้น คือพวกเราต้องการแบบฝึกหัดสำหรับการคิด จากทุกคนที่มีสติ
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
เอาหล่ะลองทำดูครับ ลองคิด ที่จริงแล้ว ลองทำดูตอนนี้เลยดีกว่า ทุกคนในห้องนี้ ทำอย่างนี้ครับ คิดถึงครั้งสุดท้ายที่คุณต้องตัดสินใจ ซึ่งคุณนั้นเป็นกังวลว่ามันจะเป็นสิ่งที่ถูกต้องไหม ซึ่งคุณสงสัยว่า "แล้วอย่างนั้นฉันไปทำอะไรหล่ะเนี่ย?" ดึงความจำนั้นออกมาครับ แล้วทีนี้ ไตร่ตรองดู แล้วบอกว่า "การตัดสินใจนั้นเราได้มาอย่างไร" แล้วฉันทำอะไร ฉันทำตามกี๋นหรือเปล่านะ ฉันให้คนช่วยออกความเห็น หรือว่า วิ่งรี่ไปพึ่งกฎหมาย หรือว่า ตอนนี้ เรามีตัวเลือกมากขึ้นอีกหน่อย "ฉันประเมินหรือเปล่า ว่าอะไรจะให้ผลที่น่าพึงพอใจที่สุด เหมือนกับที่มิลล์จะทำ? หรือว่า แบบคาร์ท ฉันใช้เหตุผลในเพื่อให้ได้มาซึ่งแก่นของความถูกต้องหรือเปล่า" ลองคิดดูครับ เอาจริงๆนะครับ ดึงความคิดออกมา มันสำคัญครับ มันสำคัญมากๆ เรากำลังจะใช้เวลา 30 วินาทีอันมีค่ายิ่งสำหรับการบรรยาย ณ TED ไม่ทำอะไรอื่น นอกจากคิดพิจารณาเกี่ยวกับสิ่งนี้ พร้อมหรือยังครับ เริ่ม
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
หยุด เยี่ยมครับ สิ่งที่คุณได้คิด นั่นเป็นก้าวแรกไปสู่การมีหน้าที่รับผิดชอบ ต่อสิ่งที่เราควรทำ ด้วยอำนาจทั้งหมดของเรา
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
ทีนี้ ขั้นต่อไป -- ลองนี่ดู ไปหาเพื่อน และอธิบายให้พวกเขาฟัง ว่าคุณทำการตัดสินใจอย่างไร ไม่ใช่ตอนนี้ครับ รอผมบรรยายจบก่อน ทำดูตอนพักเที่ยงก็ได้ครับ และอย่าไปหาแค่เพื่อนชาวเทคโนโลยีนะครับ หาใครสักคนที่แตกต่างจากคุณ หาศิลปิน หรือนักเขียน หรือ หากสวรรค์ไม่เป็นใจ ลองคุยกับนักปรัชญาดูครับ ความจริงแล้ว หาใครสักคนที่มาจากด้านมนุษย์ศาสตร์ ทำไมหรอครับ เพราะว่าคนพวกนี้คิดเกี่ยวกับปัญหา แตกต่างจากพวกเราชาวเทคโนโลยี เมื่อไม่กี่วันก่อน อีกฝั่งหนึ่งของถนนจากตรงนี้ มีผู้คนเป็นร้อยๆมาชุมนุมรวมกัน มีทั้งนักเทคโนโลยีและนักมนุษย์ศาสตร์ ที่งานประชุมวิชาการ บิบิโล เทค และพวกเขามารวมตัวกัน เพราะว่า ชาวเทคโนโลยีต้องการที่จะเรียนรู้ ว่ามันจะเป็นอย่างไรที่จะคิดด้วยทัศนคติแบบชาวมนุษย์ศาสตร์ เรามีคนๆหนึ่งมาจาก กูเกิล พูดคุยกับคนๆหนึ่งที่ทำงานด้านวรรณกรรมเปรียบเทียบ คุณกำลังคิดเกี่ยวกับความสัมพันธ์รของโรงละครฝรั่งเศสยุคศตวรรษที่17 ว่ามันยืนหยัดอยู่ท่ามกลางเมืองหลวงอันตรายนี่ได้อย่างไร? อืม นั่นก็น่าสนใจครับ เป็นแนวทางความคิดที่แตกต่าง และเมื่อคุณคิดในแนวทางนั้น ก็จะกลายเป็นว่าคุณมีความละเอียดอ่อนต่อเข้าอกเข้าใจเพื่อนมนุษย์ ซึ่งมันเป็นสิ่งสำคัญมากต่อการตัดสินใจทางจริยธรรม
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
ฉะนั้น ตอนนี้ จินตนาการ สิครับ คุณออกไปและพบเพื่อนนักดนตรีของคุณ คุณบอกเล่าให้เขาฟังเกี่ยวกับสิ่งที่เราพูดคุยกัน เกี่ยวกับเรื่อง การปฏิวัติข้อมูลทั้งหมด และทั้งหมดนี้ บางที คุณอาจฮัมเพลงเอกของเราสักท่อนสองท่อน ♫ปัม ป่าม ปัม ปัม ป้าม ปัม ป่าม ปัม ปัม ป้าม♫ อ้า เพื่อนนักดนตรีก็จะหยุดคุณแล้วบอกว่า "เธอรู้ไหม เพลงเอก ของการปฏิวัติข้องมูลของเธอหน่ะ มันเป็นอุปรากร นั่นมัน(แต่งโดย)วาร์กเนอร์ หนิ มันมีเค้าโครงเรื่องจากตำนานยุโรปเหนือ (นอร์ส) มันเกี่ยวกับเทพเจ้าและสรรพสัตว์ในตำนาน ต่อสู้แย่งชิงอัญมณีวิเศษ" อืม น่าสนใจนะครับ แล้วทีนี้ อุปรากรอันงดงามนี่ก็ด้วย พวกเราได้รับการดลใจจากอุปรากร พวกเรามีความรู้สึกร่วม เพราะว่ามันเกี่ยวกับการรบ ระหว่างธรรมะและอธรรม เกี่ยวกับสิ่งที่ถูก และ ผิด และเรา ก็ใส่ใจในสิ่งที่ถูกและผิด เรา สนใจสิ่งที่เกิดขึ้นในอุปรากร เรา สนใจสิ่งที่เกิดขึ้นในหนังเรื่อง "กองทัพอำมหิต" และ แน่นอนว่า เราสนใจ สิ่งที่เกิดขึ้นกับนวัตกรรมของเรา
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
ทุกวันนี้เรามีอำนาจมากมายเหลือเกิน มันขึ้นอยู่กับเราที่จะตระหนักว่าต้องทำอย่างไร และนั่นก็เป็นข่าวดีครับ เราเป็นผู้ซึ่งเขียนบทอุปรากรนี้ นี่คือภาพยนต์ของเรา เราตระหนักว่า อะไรจะเกิดขึ้นกับนวัตกรรมเหล่านี้ เรามีเป้าหมายแน่วแน่ ว่าทั้งหมดนี้ จะลงเอยเช่นไร
Thank you.
ขอบคุณมากครับ
(Applause)
(เสียงปรบมือ)