Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
Kekuatan. Itulah kata yang terlintas di pikiran. Kita adalah teknolog baru. Kita punya banyak data, jadi kita punya kekuatan yang besar. Seberapa besar kekuatan yang kita miliki? Adegan dari film: "Apocalypse Now" -- film yang bagus. Kita harus mengeluarkan pahlawan kita, Kapten Willard, menuju pangkal sungai Nung agar ia dapat mengejar Kolonel Kurtz. Caranya adalah menerbangkannya dan menjatuhkannya di lokasi. Beginilah adegannya: Langit dipenuhi oleh armada helikopter yang membawanya. Lalu ada musik latar belakang yang mendebarkan musik yang keren. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ Itu kekuatan yang besar. Itulah yang kurasakan di ruangan ini. Itulah kekuatan yang kita rasakan karena banyaknya data yang kita miliki.
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
Mari ambil contoh. Apa yang dapat kita lakukan dengan data satu orang saja? Apa yang dapat kita lakukan dengan datanya? Saya dapat melihat catatan keuanganmu. Saya dapat tahu apakah Anda membayar tagihan Anda tepat waktu. Saya tahu apakah Anda kandidat kredit yang baik. Melalui catatan medis Anda, saya tahu apakah jantung Anda masih berfungsi baik -- apakah Anda masih layak untuk ditawari produk asuransi. Saya dapat melihat pola klikmu. Kalau Anda mengunjungi situs saya, saya tahu apa yang akan Anda lakukan, karena saya sudah melihat Anda mengunjungi jutaan situs sebelumnya. Sayangnya, Anda seperti pemain poker, saya tahu kelemahan Anda. Dengan analisa data saya tahu apa yang akan Anda lakukan bahkan sebelum Anda melakukannya. Saya tahu apa yang Anda suka. Saya tahu siapa Anda. Bahkan sebelum saya melihat surat Anda atau telpon Anda.
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
Itu adalah hal yang dapat kita lakukan dengan data yang kita miliki. Namun saya tidak akan berbicara mengenai apa yang dapat kita lakukan. Saya ingin berbicara mengenai apa yang sebaiknya kita lakukan. Apa yang tepat perlu dilakukan?
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
Saya melihat wajah-wajah yang bingung seperti, “Mengapa Anda bertanya pada kami apa yang sebaiknya dilakukan? Kami hanya membuatnya. Orang lain yang memakainya.” Mungkin ada benarnya. Tapi itu mengingatkan saya. Saya terpikir mengenai Perang Dunia 2 -- beberapa teknolog terhandal kita, ahli fisika terhebat, mempelajari nuklir fisi dan fusi -- hanya nuklir saja. Kita mengumpulkan ahli fisika itu di Los Alamos untuk memperhatikan apa yang dapat mereka buat. Kita ingin orang yang membuat teknologi berpikir apa yang sebaiknya kita lakukan dengan teknologi.
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
Apa yang seharusnya kita lakukan dengan data orang itu? Haruskah kita mengumpulkannya untuk membuat pengalaman online-nya lebih baik? Agar kita dapat menghasilkan uang? Agar kita dapat melindungi diri kita sendiri bila ia berniat tidak baik? Atau apakah kita sebaiknya menghormati privasinya, melindungi harga dirinya dan membiarkannya? Yang manakah? Bagaimana cara kita menentukannya?
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
Saya tahu: suara terbanyak. Mari kita lakukan itu. Sebagai pemanasan, mari kita mulai dengan pertanyaan yang mudah -- semua orang pasti punya pendapat mengenai hal ini: iPhone melawan Android. Coba tunjuk tangan -- siapa yang memakai iPhone. Oke. Android. Saya pikir karena kita orang pintar kita tidak akan terbujuk oleh ponsel yang cantik saja. (Tertawa) Selanjutnya, sedikit lebih sulit. Apakah sebaiknya kita mengumpulkan data orang itu untuk membuat pengalamannya lebih baik dan melindungi kita kalau ia berniat tidak baik? Atau membiarkannya? Kumpulkan datanya. Biarkan saja. Anda aman. Tidak apa-apa. (Tertawa) Baiklah, pertanyaan terakhir -- yang lebih sulit -- saat mencoba mengevaluasi apa yang sebaiknya kita lakukan, apakah sebaiknya kita menggunakan kerangka moral deontologis Kant atau konsekuensialis Mill? Kant. Mill. Tidak banyak yang memilih. (Tertawa) Ya, itu hasil yang mengerikan. Mengerikan, karena kita punya pendapat yang lebih kuat mengenai ponsel kita dibandingkan dengan kerangka moral yang sebaiknya kita gunakan untuk memandu keputusan kita.
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
Bagaimana kita tahu apa yang harus dilakukan dengan kekuatan yang kita punya kalau kita tidak punya kerangka moral? Kita tahu banyak mengenai sistem operasi bergerak, tapi yang lebih kita butuhkan adalah sistem operasi moral. Apakah sistem operasi moral itu? Kita semua tahu hal yang benar dan hal yang salah, bukan? Anda merasa senang kalau melakukan sesuatu yang benar, Anda merasa tidak enak kalau melakukan sesuatu yang salah. Orang tua kita mengajarkan: Memuji yang benar, menegur yang salah. Bagaimana kita menentukan mana yang benar dan salah? Dari hari ke hari, kita memiliki teknik yang kita gunakan. Mungkin kita hanya akan mengikuti insting kita saja. Mungkin kita mengambil suara -- kita melakukan voting. Mungkin kita menebak – tanya bagian hukum, apa pendapat mereka. Dengan kata lain, cara kita adalah acak dan ad hoc. bagaimana kita menentukan apa yang harus kita lakukan. Mungkin bila kita ingin lebih pasti, apa yang kita inginkan adalah kerangka moral yang membimbing kita, yang akan memberitahu kita mana yang benar dan mana yang salah, dan bagaimana kita menentukan bila situasinya tiba.
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
Mari kita menentukan kerangka moral. Kita adalah masyarakat angka, hidup dengan angka. Dapatkah kita menggunakan angka sebagai landasan dari kerangka moral? Saya tahu orang yang melakukannya, orang yang pintar -- ia sudah meninggal 2500 tahun yang lalu. Plato, ya benar. Ingatkah tentang dia - ahli filsafat kuno? Mungkin Anda tertidur di kelas saat guru Anda menerangkan hal ini. Plato mengkhawatirkan hal yang sama. Ia khawatir terhadap hal yang benar dan salah. Ia ingin tahu apa itu keadilan. Namun ia khawatir apa yang kita lakukan hanyalah bertukar pikiran mengenai hal ini. Ia bilang sesuatu itu adil. Menurutnya itu hal yang lain. Sangat meyakinkan ketika ia dan ia berbicara. Saya hanya mondar mandir; Saya tidak mencapai kesimpulan apapun. Saya tidak ingin pendapat, saya ingin pengetahuan. Saya ingin tahu mengenai keadilan -- seperti kita mengenal matematika. Dalam matematika, kita mengenal fakta objektif. Pilihlah satu angka, angka apa saja – dua. Angka kesukaanku. Saya suka angka itu. Ada kebenaran mengenai angka dua. Kalau Anda punya dua sesuatu, lalu Anda tambahkan dua lagi, Anda akan memperoleh empat. Itu benar, tidak peduli apapun yang sedang Anda bicarakan. Ada kebenaran yang objektif mengenai bentuk dari angka dua, dari bentuk abstraknya. Kalau Anda punya dua semuanya – dua mata, dua telinga, dua hidung, hanya dua tonjolan – semua itu adalah bentuk dari dua. Mereka memiliki kebenaran yang sama dengan dua. Mereka memiliki ke-”dua”-an di dalam mereka. Karena itu, hal ini tidak terkait dengan pendapat.
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
Plato berpikir, bagaimana bila etika itu seperti matematika? Bagaimana bila ada bentuk murni dari keadilan? Bagaimana bila ada kebenaran mengenai keadilan, dan Anda dapat melihat dunia dan langsung tahu mana yang memiliki nilai keadilan tersebut? Anda akan tahu mana yang adil dan mana yang tidak. Ini tidak lagi menjadi masalah pendapat dan penampilan. Itu adalah impian yang hebat. Bayangkanlah. Betapa mulianya. Betapa ambisiusnya. Ia seambisius kita. Ia ingin memecahkan etika. Ia ingin kebenaran yang objektif. Kalau Anda berpikir seperti itu, Anda memiliki kerangka moral Platonis.
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
Bila Anda tidak berpikir seperti itu, banyak yang seperti Anda di sejarah Filsafat Barat, karena banyak yang mengkritik ide rapi itu. Terutama Aristoteles. Ia tidak suka pada ide itu. Menurutnya ide itu tidak praktis. Aristoteles berkata, “Kita sebaiknya hanya mencari presisi dari setiap subjek sejauh kemampuan subjek tersebut.” Menurut Aristoteles, etika tidak seperti matematika. Menurutnya etika adalah pengambilan keputusan pada saat ini menggunakan pertimbangan terbaik kita pada saat itu dalam mencari jalan yang benar. Bila Anda setuju dengan cara itu, Anda tidak sependapat dengan Plato. Jangan menyerah. Mungkin ada cara lain untuk kita menggunakan angka sebagai landasan dari kerangka moral kita.
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
Bagaimana dengan ini: Bagaimana bila dalam situasi apapun Anda dapat melakukan perhitungan, melihat pilihan, mempertimbangkan mana yang baik dan tahu apa yang harus dilakukan? Apakah itu terdengar lazim? Itu adalah kerangka moral utilitarian. John Stuart Mill adalah pendukung gagasan itu – orang yang baik – baru meninggal 200 tahun yang lalu. Jadi landasan dari utilitarianime – saya yakin Anda sudah tahu. Tiga orang yang memilih Mill sebelumnya lazim dengan hal ini. Begini caranya. Bagaimana bila moral, bagaimana bila penentu yang hal bermoral adalah sesuatu yang bersifat memaksimalkan kesenangan dan meminimalkan penderitaan? Ini menyebabkan sesuatu yang intrinsik terhadap perbuatan itu. Ini tidak seperti hubungannya dengan bentuk abstrak tertentu. Ini hanyalah masalah konsekuensi. Anda hanya melihat konsekuensinya saja, apakah secara keseluruhan ia baik atau buruk. Ini lebih mudah. Dengan demikian kita tahu apa yang harus dilakukan.
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
Mari ambil contoh. Misalnya saya berkata, "Saya akan mengambil ponselmu." Bukan karena ponsel itu berbunyi, tapi karena saya sudah membuat sedikit perhitungan. Saya kira Anda terlihat mencurigakan. Bagaimana jika ia sudah mengirim SMS ke persembunyian Bin Laden, atau siapapun penerusnya, dan ternyata ia teroris, mata-mata kelompok rahasia. Saya akan cari tahu, dan bila saya tahu, saya akan mencegah kerusakan yang dapat diakibatkannya. Hal itu memiliki nilai yang tinggi untuk mencegah kerusakan. Dibandingkan dengan sedikit kesakitan yang akan terjadi -- karena memalukan ketika saya melihat ponselnya dan ternyata ia ketagihan Farmville dan sejenisnya, itu tidak sebanding dengan nilai dari melihat ponselnya. Bila Anda berpendapat seperti itu, itu adalah pilihan utilitarian.
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
Namun mungkin Anda juga tidak berpendapat demikian. Mungkin menurut Anda itu adalah ponselnya. Mengambil ponselnya adalah tindakan yang salah karena ia adalah manusia dengan hak dan harga diri, kita tidak dapat mengganggu hal itu. Ia punya otonomi. Tidak peduli apapun perhitungannya. Ada banyak yang hal yang salah secara intrinsik -- seperti berbohong adalah salah, menganiaya anak kecil adalah salah. Kant sangat bagus menerangkan hal ini, lebih baik dariku. Katanya kita harus menggunakan akal untuk mencari peraturan yang mengatur tindakan kita. Juga, ini adalah tugas kita untuk mengikuti peraturannya. Ini bukan perkara perhitungan.
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
Jadi sudahlah. Kita berada di tengah-tengahnya. Ini berlangsung selama ribuan tahun. Karena ini adalah pertanyaan yang sulit dan saya hanya punya 15 menit. Mari langsung saja. Bagaimana seharusnya kita mengambil keputusan? Apakah dengan Plato, Aristoteles, Kant, Mill? Apa yang seharusnya kita lakukan? Apakah jawabannya? Apakah rumus yang dapat kita gunakan dalam situasi apapun untuk menentukan apa yang harus kita lakukan, apakah kita sebaiknya menggunakan data orang itu atau tidak? Apakah rumusnya? Tidak ada rumusnya. Tidak ada jawaban yang sederhana.
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
Etika itu sulit Etika memerlukan pemikiran. Dan itu tidak nyaman. Saya tahu: Saya menjalankan karir saya di bidang kecerdasan buatan, mencoba membangun mesin yang dapat berpikir untuk kita, yang dapat memberikan kita jawaban. Tapi mereka tidak dapat melakukannya. Anda tidak dapat memindahkan pemikiran manusia ke dalam mesin. Kita harus melakukan pemikiran itu sendiri. Untungnya, kita bukan mesin dan kita dapat melakukannya. Kita bukan hanya mampu berpikir, kita harus berpikir. Hannah Arendt berkata, “Kebenaran yang menyedihkan adalah kebanyakan kejahatan yang terjadi di dunia ini tidak dilakukan oleh orang yang berniat jahat. Kejahatan muncul dari tidak berpikir.” Ia menyebutnya “kelumrahan dalam kejahatan.” Respon terhadap hal itu adalah kita menginginkan pemikiran dari setiap manusia yang waras.
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
Mari kita lakukan hal itu. Mari kita berpikir. Mari mulai sekarang juga. Untuk setiap orang di ruangan ini, mari kita lakukan hal ini: Pikirkan saat terakhir Anda harus memutuskan mana yang benar, saat Anda bertanya, “Apa yang harus saya lakukan?" Pikirkan kembali saat itu. Kini ingat kembali dan katakan, “Kenapa saya bisa memutuskan hal tersebut? Apa yang saya lakukan? Apakah saya mengikuti insting? Apakah saya menyuruh seseorang untuk memilih? Apakah saya bertanya ke orang hukum? Kini kita punya lebih banyak pilihan. “Apakah saya mengevaluasi apa yang memberikan kesenangan tertinggi seperti Mill? Atau seperti Kant, apakah saya menggunakan logika untuk mencari apa yang secara intrinsik adalah benar?" Pikirkan hal itu. Pikirkan dengan baik. Ini penting. Ini sangat penting hingga kita akan menghabiskan waktu 30 detik dari waktu TEDTalk yang berharga ini untuk melakukan itu saja. Anda siap? Mulai.
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
Berhenti. Bagus. Apa yang Anda lakukan barusan, itu adalah langkah pertama dalam mengambil tanggung jawab terhadap apa yang kita miliki dengan kekuatan kita.
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
Kini langkah selanjutnya – coba ini. Carilah teman dan terangkan pada mereka bagaimana proses Anda mengambil keputusan tersebut. Tidak usah sekarang. Tunggu hingga saya selesai berbicara. Lakukan saat makan siang. Jangan mencari teman tekonolog lainnya; carilah seseorang yang berbeda darimu. Carilah seniman atau penulis -- atau, amit-amit, carilah seorang filsuf dan berbicara pada mereka. Carilah seseorang dari gerakan kemanusiaan. Mengapa? Karena mereka memikirkan masalah secara berbeda dengan kita sebagai teknolog. Beberapa hari yang lalu, di seberang jalan dari sini, ada beberapa ratus orang berkumpul. Itu adalah teknolog dan humanis dari BiblioTech Conference. Mereka berkumpul karena teknolog ingin belajar cara berpikir melalui perspektif seorang humanis. Ada perwakilan dari Google yang akan melakukan studi banding. Anda berpikir mengenai relevasi dari teater Prancis di abad ke-17 -- bagaimana pengaruhnya terhadap modal ventura? Itu menarik. Itu adalah cara berpikir yang berbeda. Ketika Anda berpikir dengan cara itu, Anda menjadi lebih sensitif terhadap pertimbangan manusia, yang sangat penting dalam mengambil keputusan yang etis.
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
Bayangkan saat ini Anda pergi dan Anda sudah menemukan teman musisi Anda. Anda ceritakan padanya apa yang kita bicarakan sekarang, mengenai revolusi data kita dan semua ini – mungkin Anda nyanyikan beberapa bar dari musik tema kita. ♫ Dum ta da da dum dum ta da da dum ♫ Teman musisi Anda akan menyela dan berkata, "Musik tema untuk revolusi datamu, itu opera, itu Wagner. Itu diambil berdasarkan legenda Norwegia. Itu mengenai para dewa dan makhluk mitos yang memperebutkan perhiasan gaib.” Itu menarik. Itu adalah opera yang menarik. Dan kita terharu terharu dengan opera itu. Kita terharu karena ada pertempuran antara baik dan jahat, antara benar dan salah. Dan kita peduli terhadap benar dan salah. Kita peduli tentang apa yang terjadi di opera itu. Kita peduli dengan apa yang terjadi di "Apocalypse Now." Kita peduli dengan apa yang terjadi dengan teknologi kita.
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
Kita punya banyak kekuatan saat ini, apa yang akan dilakukan dengan kekuatan itu tergantung pada kita. Itu adalah berita baiknya. Kita yang menulis opera ini. Ini adalah film kita. Kita akan menentukan apa yang akan terjadi dengan teknologi kita. Kita yang menentukan akhir dari semua ini.
Thank you.
Terima kasih.
(Applause)
(Tepuk tangan)