Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
Sức mạnh. Đó là từ đến trong tâm trí tôi Chúng ta là những kỹ sư công nghệ mới Chúng ta có rất nhiều dữ liệu, nên chúng ta có rất nhiều sức mạnh Chúng ta có bao nhiêu sức mạnh? Cảnh trong phim: "Apocalypse Now" - một bộ phim tuyệt vời Chúng ta phải mang người hùng của chúng ta, Capt. Willard, đến miệng sông Nung để anh ta có thể đuổi theo Col. Kurtz. Cách chúng ta làm là mang anh ta bay đến và thả xuống. Đến cảnh này: bầu trời dày đặc phi đội trực thăng mang anh ta đến Và có tiếng nhạc nền to, hồi hộp, thứ âm nhạc hoang dã này. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ Nó mang rất nhiều sức mạnh. Đó là thứ sức mạnh tôi cảm nhận được trong căn phòng này Đó là thứ sức mạnh chúng ta có bởi tất cả những dữ liệu mà chúng ta có
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
Hãy cùng xem một ví dụ Chúng ta có thể làm gì Với dữ liệu của chỉ một người? Chúng ta có thể làm gì với dữ liệu của người đó? Tôi có thể xem những bản lưu tài chính của bạn Tôi có thể nói cho bạn biết bạn có thanh toán hóa đơn đúng hạn không Tôi biết bạn có đáng để cho vay hay không Tôi có thể nhìn vào các bản lưu y tế, tôi có thể thấy tim bạn vẫn còn đang đập thấy bạn có đáng để cung cấp dịch vụ bảo hiểm không. Tôi có thể nhìn vào kiểu bạn nhấp chuột. Khi bạn đến thăm website của tôi, tôi thực sự biết những gì bạn sắp sửa làm, bởi vì tôi đã thấy bạn ghé thăm hàng triệu wesite trước đây. Và tôi xin lỗi phải nói với bạn rằng bạn giống như tay chơi bài poker, bạn có một câu chuyện Tôi có thể kể chuyện với dữ liệu phân tích rằng bạn sắp sửa làm gì thậm chí trước khi bạn làm nó. Tôi biết bạn thích gì, tôi biết bạn là ai. Và điều đó xảy ra thậm chí trước khi tôi nhìn vào thư hay điện thoại của bạn.
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
Đó là những thứ chúng ta có thể làm được với dữ liệu mà chúng ta có. Nhưng tôi thực sự không có mặt ở đây để nói về những gì chúng ta có thể làm. Tôi ở đây để nói về những gì chúng ta nên làm. Điều gì là đúng đắn để làm?
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
Giờ tôi thấy vài ánh mắt mù mờ như "Tại sao bạn lại hỏi chúng tôi điều gì là đúng để làm? Chúng ta chỉ là những người xây dựng nên nó. Người khác sẽ dùng chúng." Đủ công bằng. Nhưng nó làm tôi nghĩ lại. Tôi nghĩ về chiến tranh thế giới thứ hai -- một vài kĩ nghệ gia vĩ đại, một vài nhà vật lĩ vĩ đại, nghiên cứu về sự phân rã và kết hợp hạt nhân -- những khái niệm liên quan đến hạt nhân Chúng ta tập hợp những nhà vật lí này ở Los Alamos để xem những gì họ sẽ xây dựng. Chúng ta muốn con người xây dựng công nghệ suy nghĩ về những gì chúng ta sẽ làm với công nghệ đó
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
Vậy nên, chúng ta sẽ nên làm gì với dữ liệu của anh ta? Chúng ta có nên thu thập nó, tập trung nó lại, để làm cho kinh nghiệm trực tuyến của anh ta tốt hơn? Để chúng ta có thể kiếm tiền? Để chúng ta có thể bảo vệ chính mình nếu anh ta trở nên không còn tốt nữa? Hay chúng ta nên tôn trọng riêng tư của anh ấy bảo vệ lòng tự trọng của anh ta và để anh ta được yên? Điều gì nên làm? Nên làm thế nào để nhận ra điều đó
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
Tôi biết: nguồn lực đám đông. Hãy để đám đông làm việc đó. Để hâm nóng không khí, hãy bắt đầu với một câu hỏi đơn giản mà tôi chắc rằng mọi người ở đây đều có ý kiến về nó iPhone và Android. Hãy giơ tay -- iPhone Uh huh. Android. Bạn nghĩ rằng với một nhóm người thông minh chúng ta sẽ không trở thành trò hề cho những chiếc điện thoại xinh xắn. (Tiếng cười) Câu hỏi tiếp theo, khó hơn một chút. Chúng ta có nên thu thập mọi dữ liệu về một người để làm cho trải nghiệm của anh ta tốt hơn và để bảo vệ chúng ta trong trường hợp anh ta không còn tốt nữa? Hay chúng ta nên mặc kệ anh ta? Thu thập dữ liệu của anh ta Để mặc kệ anh ấy Bạn an toàn rồi. Thật tốt. (Tiếng cười) Rồi, câu hỏi cuối cùng câu hỏi khó hơn khi cố gắng đánh giá chúng ta nên làm gì trong trường hợp này, chúng ta có nên sử dụng khuôn khổ đạo đức luận của Kant không hay chúng ta nên sử dụng khuôn khổ nhân quả của Mill? Kant Mill Không nhiều biểu quyết lắm (Tiếng cười) Vâng, đó là một kết quả tồi tệ. Tồi tệ, bởi vì chúng ta có những ý kiến mạnh hơn về những thiết bị cầm tay của chúng ta hơn về những khuôn khổ đạo đức mà chúng ta nên dùng dể đưa ra những quyết định.
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
Làm sao để chúng ta biết phải làm gì với những sức mạnh chúng ta có nếu chúng ta không có một khuôn khổ đạo đức nào? Chúng ta biết nhiều về hệ điều hành cho di động, nhưng chúng ta thực sự cần một hệ điều hành đạo đức. Hệ điều hành đạo đức là gì? Tất cả chúng ta đều biết về đúng và sai, đúng không. Bạn cảm thấy tốt khi bạn làm điều gì đó đúng, bạn cảm thấy tệ khi bạn làm điều gì sai. Bố mẹ chúng ta dạy chúng ta rằng: Khen ngợi điều tốt, khiển trách điều xấu. Nhưng làm sao để chúng ta nhận ra cái gì đúng, cái gì sai? Và ngày qua ngày, chúng ta có những kĩ thuật để sử dụng. Có thể chúng ta chỉ cần theo cảm tính của mình. Có thể chúng ta sẽ yêu cầu biểu quyết -- chúng ta dùng sức mạnh đám đông. Hoặc có thể chúng ta sẽ đẩy nó cho người khác hỏi nhà chức trách, xem những gì họ nói. Nói cách khác, đó là một kiểu ngẫu nhiên kiểu bột phát làm sao chúng ta có thể nhận ra chúng ta nên làm gì. Và có lẽ, để chắc chắn, cái chúng ta thực sực cần là một khuôn khổ đạo đức có thể hướng dẫn chúng ta, nói chúng ta điều gì là đúng và sai ngay từ đầu, và làm thế nào để chúng ta có thể biết cần làm gì trong một tình huống cụ thể.
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
Vậy hãy lấy một khuôn khổ đạo đức. Chúng ta là người của những con số, sống bằng những con số. Làm sao để chúng ta có thể sử dụng những con số như là nền tảng của khuôn khổ đạo đức? Tôi biết một người biết đích xác việc đó Một người thông minh -- đã mất cách đây 2500 năm. Plato, đúng vậy. Mọi người còn nhớ ông ta không - nhà triết học già? Bạn thường ngủ suốt lớp triết học đó. Và Plato, ông ta có nhiều mối quan tâm như chúng ta có. Ông ta lo nghĩ về đúng và sai. Ông ta muốn biết rằng cái gì là xác đáng. Nhưng ông ta nghĩ rằng tất cả những gì có vẻ như sắp được làm chỉ là sự ý kiến cân nhắc về nó. Anh ta nói một cái gì đó là chân lý. Cô ta nói một cái khác mới là chân lý. Đó là một kiểu thuyết phục khi anh ta nói và khi cô ta nói. Tôi bị tiến thoái lưỡng nan, tôi chẳng đạt được gì cả. Tôi không muốn ý kiến, tôi muốn kiến thức. Tôi muốn biết sự thật về công lý -- như tôi có sự thật trong toán. Trong toán, chúng ta biết những dữ kiện khách quan. Hãy lấy một số, bất kì số nào -- số hai. Số ưa thích, tôi thích số này. Có những sự thật về số hai Nếu bạn có hai vật gì đó, bạn thêm hai, bạn sẽ có bốn. Điều này luôn đúng cho dù bạn đang nói về vật gì. Đó là sự thật rõ ràng về dạng thức của số hai, một dạng thức trừu tượng. Khi bạn có hai thứ của bất kì thứ gì -- hai mắt, hai tai, hai mũi, chỉ là hai thứ thấy được -- tất cả những thứ đó đều là dạng thức của số hai. Tất cả chúng tham gia vào những sự thật mà số hai có. Tất cả chúng có đặc tính hai trong bản thân chúng. Và vì thế, nó không phải là vấn đề của bản thân ý kiến.
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
Điều gì xảy ra nếu, Plato nghĩ rằng, đạo đức giống như toán học? Nếu có một dạng thức thuần túy của công lý? Nếu có những sự thật về công lý, và bạn có thể nhìn thấy thế giới xung quanh và thấy những điều nào tham gia, tham gia một phần vào dạng thức đó của công lý? Từ đó bạn sẽ biết cái gì thực sự là chân lý, và cái gì không. Điều này không liên quan đến ý kiến hoặc hình thức.. Đó là một tầm nhìn tuyệt vời. Ý tôi là, hãy nghĩ về nó. Thật vĩ đại. Thật là nhiều tham vọng. Nhiều tham vọng như chính chúng ta. Ông ấy muốn giải quyết các vấn đề về đạo lý. Ông ấy muốn những sự thật khách quan. Nếu bạn cũng nghĩ theo cách đó, bạn đã có một nền tảng đạo đức Platon.
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
Nếu bạn không nghĩ theo cách đó, ồ, bạn có rất nhiều bè bạn trong lịch sử triết học phương Tây, bởi vì ý tưởng tốt -- bạn biết đấy, con người chỉ trích nó lên. Aristotle, thực tế, ông không hài lòng. Ông ấy nghĩ nó không thực tế. Aristotle nói rằng "Chúng ta chỉ nên tìm kiếm sự chính xác ở mỗi đối tượng mà đối tượng đó cho phép." Aristotle nghĩ rằng đạo lý không giống lắm với toán học. Ông ấy nghĩ đạo lí là vấn đề đưa ra quyết định luôn và ngay sử dụng những nhận xét xác đáng nhất để tìm ra con đường đúng đắn. Nếu bạn cũng nghĩ như thế, Plato không phải là kiểu người dành cho bạn. Nhưng đừng đầu hàng vội, có thể còn những cách khác mà chúng ta có thể sử dụng những con số như là nền tảng của khuôn khổ đạo đức.
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
Bạn nghĩ sao về: Sẽ ra sao nếu như ở bất kì tình trạng nào bạn cũng có thể vừa tính toán, nhìn những lựa chọn, chọn ra điều tốt nhất và biết phải làm gì tiếp theo? Điều này nghe có quen không? Đó là khuôn khổ đạo đức vị lợi. John Stuart Mill là một người ủng hộ vĩ đại của học thuyết này -- cũng là người rất tử tế và chỉ mới mất cách đây 200 năm. Cơ bản của chủ nghĩa vị lợi -- Tôi chắc chắn rằng ít nhất bạn cũng đã quen với nó. Có ba người đã ủng hộ Mill trước khi quen với học thuyết đó Nhưng đây là cách mà nó thực hiện. Sẽ ra sao, nếu đạo lí, nếu những gì tạo nên đạo lí, chỉ là vấn đề của nó có tối đa hóa sự hài lòng và tối thiểu hóa nỗi đau hay không? Nó mang những thứ chân thực vào trong hành động. Nó không phải là một dạng quan hệ của những hình thức trừu tượng. Nó là vấn đề của kết quả. Bạn chỉ nhìn vào kết quả và xem xét, một cách toàn cục, liệu nó có tốt hơn hay xấu hơn. Xem xét vậy sẽ trở nên đơn giản. Sau đó chúng ta biết chúng ta phải làm gì.
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
Hãy cùng xem một ví dụ. Giả sử tôi đến và nói "Tôi sắp lấy điện thoại của anh" Không phải chỉ bởi vì nó đã đổ chuông trước đó, mà tôi lấy nó bởi vì tôi đã thực hiện sự tính toán nhỏ. Tôi đã nghĩ rằng, gã này trông đáng nghi ngờ. Và sẽ ra sao nếu gã đang gửi thông điệp đến nơi ẩn nấp của Bin Laden hoặc kẻ nào đang chăm sóc cho Bin Laden -- và gã thực sự giống một tên khủng bố, một kẻ ung nhọt. Tôi sắp tìm thấy vấn đề, và khi tôi tìm thấy nó, tôi sẽ chống lại sự thiệt hại to lớn mà gã có thể gây ra Đó là một công cụ cực kì hữu ích để chống lại sự thiệt hại như thế. Và so với sự đau đớn nhỏ mà nó có thể gây ra -- bởi vì nó gây ra sự lúng túng khi tôi nhìn vào điện thoại của anh ta và nhìn thấy anh ta đang có vấn đề với FarmVille và tất cả điều đó -- nó bị tràn ngập bởi những giá trị khi nhìn vào chiếc điện thoại đó. Nếu bạn cảm thấy theo cách đó đó là một lựa chọn vị lợi.
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
Nhưng có thể bạn cũng không cảm thận theo cách đó. Có thể bạn nghĩ, đó là điện thoại của anh ta. Thật là sai khi lấy điện thoại của anh ta, bởi vì anh ta là một con người và anh ta có quyền và địa vị của mình, và chúng ta không thể xen vào điều đó. Anh ta có quyền tự do. Điều này không bị ảnh hưởng bởi những gì chúng ta tính toán. Có những thứ bản thân nó đã là sai -- giống như nói dối là sai giống như hành hạ trẻ em vô tội là sai. Kant thể hiện rất tốt ở điểm này, và ông ấy nói tốt hơn chúng ta nói về nó Ông ấy nói chúng ta nên sử dụng suy luận của mình để làm rõ những qui luật mà chúng ta nên dùng để dẫn dắt đạo đức của mình. Và khi đó nhiệm vụ của chúng ta là làm theo những qui luật đó. Nó không liên quan gì đến sự tính toán cả.
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
Vì thế hãy dừng lại. Chúng ta đúng về những thứ triết học này. Và điều này đã diễn ra hàng ngàn năm, bởi vì đó là những câu hỏi khó, và tôi thì chỉ có 15 phút. Nên hãy rút gọn lại. Bạn nên làm như thế nào để đưa ra quyết định? Nên làm như Plato, như Aristotle, như Kant, như Mill? Chúng ta nên làm gì? Câu trả lời là gì? Đâu là công thức mà chúng ta có thể sử dụng ở bất kì tình huống nào để quyết định rằng chúng ta nên làm gì, chúng ta có nên sử dụng dữ liệu của anh ta hay không? Công thức là gì? Không có 1 công thức nào hết. Không hề có một câu trả lời đơn giác.
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
Đạo đức là vấn đề khó. Đạo đức yêu cầu sự suy nghĩ. Và rằng nó không hề thoải mái Tôi biết, phần lớn thời gian trong sự nghiệp của tôi là cho trí tuệ nhân tạo, cố gắng xây dựng những cỗ máy có thể có một số suy nghĩ như chúng ta, có thể cho chúng ta một số câu trả lời. Nhưng những cỗ máy đó không thể. Bạn không thể chỉ lấy tư duy con người và nhét vào một cỗ máy. Chúng ta là những thực thể duy nhất có thể suy nghĩ. Thật hạnh phúc rằng chúng ta không phải là máy móc, chúng ta có thể tư duy. Không chỉ chúng ta có khả năng tư duy, mà chúng ta phải tư duy. Hannad Arendt nói rằng, "Sự thật đáng buồn là những điều xấu xa trên thế giới này không phải được làm bởi những người muốn trở thành kẻ xấu. Những điều xấu đến từ những kẻ không biết tư duy." Bà gọi điều đó là "sự tầm thường của kẻ xấu." Và đáp lại cho điều đó là là chúng ta cần thực hành tư duy từ mỗi cá nhân theo đúng nghĩa.
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
Hãy làm nó. Hãy tư duy. Thực tế, hãy bắt đầu luôn bây giờ. Mọi người trong phòng hãy làm việc này: nghĩ về lần cuối cùng bạn ra một quyết định lần mà bạn đã lo lắng về điều định làm, lần mà bạn tự hỏi "Mình nên làm gì bây giờ?" Hãy nhớ lại điều đó. Và bây giờ hãy áp dụng nó và nói "Mình đã đi đến quyết định đó như thế nào? Mình đã làm gì? Mình có theo những gì thực lòng mình không? Mình có ai ủng hộ không? Hoặc mình có vướng vào vấn đề pháp lí không?" Hoặc ngay bây giờ chúng ta có nhiều lựa chọn hơn. "Chúng ta có đánh giá được sự vừa lòng tối đa như Mill không? Hoặc như Kant, chúng ta có dùng lí trí để làm rõ cái gì là bản chất sự thật không?" Hãy nghĩ về nó, thực sự chăm chú vào nó. Điều này rất quan trọng Nó quan trọng đến nỗi chúng ta dùng đến 30 giây quí giá của thời gian TEDtalk chỉ để nghĩ về nó Bạn sẵn sàng chưa. Bắt đầu.
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
Dừng lại. Tốt lắm. Những gì bạn vừa làm, là bước đầu tiên hướng tới chịu trách nhiệm về những gì chúng ta nên làm với sức mạnh của mình.
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
Giờ bước tiếp theo -- hãy thử nó. Tìm một người bạn và giải thích với họ làm thế nào để đưa ra quyết định đó. Không phải lúc này. Hãy đợi đến khi tôi hoàn thành bài nói. Hãy làm nó sau bữa trưa. Và đừng tìm một người bạn kĩ nghệ gia nào; hãy tìm người nào đó khác biệt với bạn. Tìm một nghệ sĩ, một nhà văn -- hoặc, tìm một nhà triết học và nói với họ. Thực tế, tìm một người nào đó từ cộng đồng. Tại sao? Bởi vì họ nghĩ về những vấn đề một cách khác biệt hơn là chúng ta nghĩ như một kĩ sư công nghệ. Một vài ngày trước đây, ngay ngã tư bên đường từ đây, có hàng trăm người tụ tập cùng nhau. Họ là những kĩ sư công nghệ và nhà nhân chủng học ở hội thảo lớn BiblioTech. Và họ tụ tập cùng nhau bởi vì những kĩ sư công nghệ muốn biết suy nghĩ từ góc nhìn của nhà nhân chủng học là như thế nào. Bạn tìm thấy một số người từ Google nói chuyện với người nào đó có cùng văn hóa. Bạn đang nghĩ về sự tương đồng từ các nhà hát Pháp thế kỉ 17 -- chúng sẽ chịu đựng ra sao trước quĩ đầu tư tư bản? Nó thật thú vị. Đó là một một cách tư duy hoàn toàn khác. Và khi bạn tư duy theo cách đó, bạn trở nên nhạy cảm hơn với những mối lo của nhân loại, điều này là quan trọng để đưa ra những quyết định mang tính đạo lí.
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
Ngay lúc này đây, hãy tưởng tượng rằng bạn đến và tím thấy một người bạn nhạc công. Và bạn đang nói cho anh ta về những gì chúng ta đang nói đến, về những dữ liệu cách mạng và tất cả những thứ này -- thậm chí có thể thêm một ít thanh âm nhiễu của nhạc nền này. ♫ Dum ta da da dum dum ta da da dum ♫ Ồ, người bạn nhạc sĩ của bạn sẽ dừng bạn lại và nói rằng, "Bạn biết không, nhạc nền cho cuộc cách mạng dữ liệu của bạn là opera, là Wagner. Nó dựa trên huyền thoại Norse. Đó là Chúa trời, và là đấng sáng tạo đã vượt quá những nhung lụa kì ảo." Điều này thật thú vị. Giờ nó còn là một bản nhạc kịch đẹp tuyệt vời. Và chúng ta tiến bộ nhờ vở nhạc kịch đó. Chúng ta tiến bộ bởi đó là cuộc chiến giữa cái tốt và cái xấu, giữa đúng và sai. Và chúng ta quan tâm về đúng và sai. Chúng ta quan tâm cái gì diễn ra trong vở nhạc kịch đó. Chúng ta quan tâm về những gì diễn ra trong phim "Apocalypse Now" Và chúng ta tất nhiên quan tâm về những gì diễn ra với công nghệ.
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
Chúng ta có rất nhiều sức mạnh ngày nay, và nó phụ thuộc vào chúng ta để đánh giá xem nên làm cái gì. Và đó một tin tốt lành. Chúng ta là những người viết nên vở nhạc kịch này. Đây là bộ phim của chúng ta. Chúng ta xem xét cái gì sẽ diễn ra với công nghệ. Chúng ta quyết định mọi thứ sẽ kết thúc như thế nào.
Thank you.
Xin cảm ơn.
(Applause)
(Vỗ tay)