Власт. Тази дума ми идва на ум. Ние сме новите технолози. Притежаваме много данни, тоест имаме много власт. Колко власт имаме? Сцена от филма "Апокалипсис сега" - прекрасен филм. Ние трябва да закараме нашия герой, капитан Уилард, до устието на реката Нунг, така че той да може да убеди полковник Курц. Начинът, по който ще направим това е да го превозим със самолет и да го катапултираме на правилното място. Сцената изглежда така: небето е пълно с рояк хеликоптери, които го превозват. Тази силна, възбуждаща музика се чува на заден план, дива музика. Дъм да та дъм Дъм да та дъм Да та да да. Този момент е зареден с много сила. Това е този вид сила, който чувствам в тази стая. Това е този вид сила, който притежаваме, заради всичките данни, с които разполагаме.
Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
Нека вземем следния пример. Какво можем да направим с данните само на един човек? Какво можем да направим с данните на този тип? Аз мога да погледна в банковите ви записи. Мога да ви кажа дали си плащате сметките навреме. Ще знам дали сте достатъчно надежден, за да ви се даде заем. Мога да погледна здравното ви състояние, и да разбера дали сърцето ви все още работи, така ще разбера дали мога да ви дам здравна застраховка. Мога да погледна какви страници сте посещавали. И когато дойдете на моята уеб страница, вече ще мога да кажа какво ще направите там, защото знам, че сте посетили преди това милиони други страници. Съжалявам, че трябва да ви го кажа, но вие сте като комарджия - имате опашка. Мога да ви кажа чрез анализа на данни какво ще направите, преди дори да го направите. Знам какво харесвате. Знам кой сте. И това дори преди да погледна електронната поща или телефона ви.
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
Това са онези неща, които можем да направим с данните, които притежаваме. Но аз всъщност не съм тук, за да говоря за нещата, които можем да направим. Аз съм тук, за да говоря за нещата, които трябва да направим. Кои са правилните неща, които трябва да направим.
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
Тук виждам няколко объркани погледа. "Защо ни питаш какво е правилно да се направи" Ние само програмираме нещата. Някой друг ги използва. Това е така. Но това ме връща назад във времето. Мисля си за Втората Световна Война - някои от нашите велики технологии по онова време, някои от великите ни физици, изучаващи разделянето и сливането на ядрата - чисти ядрени въпроси. Ние събираме тези физици в Лос Аламос, за да видим какво ще построят. Ние искаме хората, които изобретяват технологиите да мислят какво ние трябва да направим с тях.
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
И така какво трябва да направим със събраната информация за този човек? Трябва ли да ги събираме, така че да направим онлайн изживяването му по-добро? За да печелим пари? За да се предпазим от него, ако той има задни мисли? Или трябва да респектираме личната му сфера, да пазим достойнството му и просто да го оставим на мира? Кой е верният отговор? Как можем да го познаем?
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
Аз го знам: колективното решение. Нека да потърсим едно колективно решение. И така, за да загреем, нека започнем с един лесен въпрос - нещо, на което съм сигурен, че всеки тук знае отговора: iPhone срещу Android. Нека тези, които имат iPhone да вдигнат ръце. Уху. Android. Вие си мислите, че с няколко смарт телефона ще престанем да бъдем такива загубеняци. (Смях в залата) Следващият въпрос, малко по-труден от предния. Трябва ли да събираме информация за този човек, за да подобрим усещането му в интернет и да се предпазим от него в случай, че е намислил нещо лошо? Или да го оставим на мира? Да събираме данните му? Да го оставим на мира? Добре. Вие сте на на правилната страна. (Смях в залата) ОК. Последен въпрос - по-труден въпрос - когато се оптваме да преценим какъв метод трябва да използваме в този случай, деонтоложката морална рамка на Кант или трябва да използваме подхода на Мил базиращ се на ползата от последствията? Кант. Мил. Хм, няма много гласуващи. (Смях в залата) Да, това е един ужасяващ резултат. Ужасяващ, защото ние имаме по-силно изразено мнение за нашите телефони, отколкото за моралните рамки, които трябва да ни ръководят във взимането на решения.
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
Окъде да знаем как си служим с властта, която имаме, ако нямаме морални рамки? Ние знаем повече за мибилните операционни системи, но това, от което имаме наистина нужда са морални операционни системи. Какво е морална операционна система? Ние всички знаем какво е правилно и какво е грешно. Чувствате се добре, когато направите нещо правилно, чувствате се зле, когато извършите нещо лошо. Научили сме го от нашите родители: похвала за доброто дело, смъмряне за лошото. Но как разбираме кое е добро и кое е лошо? И така от ден на ден, ние добиваме техниките, които използват за тези решения. Може би, понякога просто следваме шестото си чувство. Може би понякога гласуваме взимайки решението на тълпата. Или просто залагаме - и питаме какво мисли правния отдел по този въпрос. С други думи ние следваме някакъв хаотичен, спонтанен път, когато взимаме решения как да действаме. И може би, ако искаме да сме на правилната страна, това от което имаме нужда е морална рамка, която да ни отведе там, която ще ни каже кои неща са правилни и кои грешни и ще ни покаже как да действаме в дадена ситуация.
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
И така нека си създадем тази морална рамка. Ние сме група хора, живееща чрез числа. Как можем да използваме числата като база за нашата морална рамка? Познавам едно момче, което правеше точно това, брилянтен тип - мъртъв е вече 2.500 години. Правилно - Платон. Помните ли го - стар философ? Сигурно сте спали по време на този урок. И така Платон е имал много от същите грижи, които ние имаме днес. Той си е задавал въпроса кое е праилно и кое грешно. Искал е да знае какво е справедливо. Но той се е притеснявал, че това с което се занимаваме ние е да се чудим кое е правилно и кое не. Той твърди, че нещо е вярно. Тя твърди, че нещо друго е вярно. Звучи убедително когато и двамата си излагат аргументите. Аз просто се лутам от тема на тема, но не стигам до никакъв отговор. Не искам опции, искам знания. Искам да знам истината за справедловостта, по същия начин, по който имаме истина за правото. В математиката ние знаем обективните факти. Вземете едно число - например две. Любимото ми число. Има няколко факта за две. Ако вземеш две от нещо и добавиш още две, ще получиш четири. Това е вярно независимо за какво говориш. Съществува обективна истина за формата на две., за абстрактната форма. Когато имаш две от нещо - две очи, две уши, два носа, просто две преднини - това всичко е форма на две. Те всички отговарят на истината, която се съдържа в две. Те всички имат нещо от две в себе си. И затова не е въпрос на гледна точка.
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
Какво ако Платон твърдеше, че етиката е като математиката. Какво ако има чиста форма на справедливостта. Какво ако има истина за справедливостта и ти просто можеш да се огледаш по света и да видиш кой участва и има дял в тази форма на справедливост? Тогава ще знаеш какво е било наистина справедливо и какво не. Нямаше да е въпрос на мнение или външен вид. Това е крещяща гледна точка. Помислете върху това. Колко е грандиозно, колко амбициозно. Това е толкова амбициозно, колкото сме самите ние. Той иска да реши етиката. Иска обективна истина. Ако мислите по този начин, добивате моралната рамка на Платон.
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
Ако не мислите по този начин, добре тогава ще намерите компания в западната философия, защото както знаете хората критикуват подредените идеи. Например Аристотел не е намирал тази идея забавна. Смятал я е за непрактична. Аристотел е казал: " Ние търсим толкова прецизност във всеки обект, колкото този обект позволява." Аристотел е на мнение, че етиката не е като математиката. Той смята, че етиката е въпрос на взимане на решения тук и сега, служейки си с най-добрата преценка, която можем да направим, за да намерим правилния път. Ако мислите по този начин, Платон не е вашия философ. Но не се предавайте. Може би има и друг начин, да използваме числата като база на нашата морална рамка.
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
Какво ще кажете за това: Какво ако можете да пресметнете всяка ситуация, прегледайте изборите, изчислявате кой е по-добър и така знаете как да постъпите? Звучи ви познато? Това е моралната рамка на утилитарното учение. Джон Стюарт Мил е голям поддръжник на това учение - между другото много свястно момче - и е умрял само преди 200 години. И така базата на утилитаризма - сигурен съм, че имате обща представа. Тримата, които преди това гласуваха за Мил познават учението. Но сега ще ви кажа как работи. Какво ако моралът, какво ако това, което прави нещата морални е просто функция на това да максимализира удоволствието и минимализира болката? Той действа по някакъв вроден начин. Това не е отношението към някаква абстрактна форма. Това е просто въпрос на следствие. Вие поглеждате последствията и преценявате дали са добри или лоши. Това би било лесно. Така знаем какво да направим.
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
Нека да ви дам пример. Нека предположим, че аз ще се кача горе и кажа " Аз ще ви взема телефона". Не защото е позвънял по-рано, а защото направих малка калкулация. Реших, че този човек ми изглежда подозрително. И какво ако той изпраща смс-и към скривалището на Бин Ладен - или който заема мястото на Бин Ладен - и действа като спяща клетка на терористи. Аз ще разкрия това и разкривайки го, ще предотвратя огромен брой вреди, които той може да нанесе. Така съществува голяма полза да се предотврати таза вреда. Особено като сравните с малката болка, която ще бъде причинена - защото ще бъде глупаво, ако му погледна телефона и видя, че има проблем с Farmville и това засенчва целия проблем, гледайки телефона му. Ако се чувствате по такъв начин, това е утилитарен избор.
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
Но може би не се чувствате по такъв начин. Може би смятате, че това е неговия телефон. Смятате, че е погрешно да му вземете телефона, защото е лична вещ и той като човек има права и достойнство и ние не можем просто така да си играем с тях. И той има право на личен избор. Няма значение какви ще бъдат последствията. Има неща, които по природа са грешни - например да се лъже е грешно, измъчването на невинни деца е грешно. Кант беше много прав в това отношение и той го е казал малко по-добре от начина по който аз ще го кажа. Казал е, че ние трябва да използваме разума си, за да установим правилата, по които трябва да се ръководим. И тогава е наше задължение да следваме тези правила. Не е въпрос на пресмятане.
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
Така че нека спрем. Ние имаме право в неговата сила , този философска дебелина. И това продължава хиляди години, защото това са сложни философски въпроси, а аз имам само 15 минути. Така че нека сложим чертата. Как трябва да взимаме нашите решения? Кой трябва да ни служи за пример - Платон, Аристотел, Кант, Мил? Как да постъпваме? Какъв е отговорът? Каква формула да използваме в една ситуация, за да решим какво е правилно, дали да използваме данните на тези хора или не? Каква е формулата? Тук няма формула. Няма еднозначен отговор.
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
Етиката е сложно нещо. Етиката изисква мислене. И това я прави неудобна. Прекарах голяма част от кариерата си в областта на изкуствения интелект, опитвайки се да направя машини, които ще мислят вместо нас, машини, които могат да отоговарят на въпросите ни. Но те не могат. Не можеш просто да вземеш човешкото мислене и да го сложиш в една машина. Ние сме тези, които трябва да правят това. За щастие ние не сме машини и можем да го направим. Не само че можем да мислим, ние дори трябва да мислим. Хана Аренд казва: "Тъжната истина е, че повечето злини на този свят не са направена от хора, които са избрали да бъдат зли. Злото се е получило просто, защото тези хора са избрали да не мислят." Това тя нарича "баналността на злото". В отговор на това ние трябва да изискваме от всеки нормален човек да може да мисли.
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
Така че нека го правим. Нека да мислим. Всъщност нека започнем още сега. Нека всеки в тази зала да направи следното: помислете си за последния път, в който е трябвало да вземете някакво решение, когато сте се притеснявали дали ще вземете правилното решение, когато сте се питали: "Какво да направя?". Припомнете си този момент. И сега рефлектирайте върху този момент и си задайте въпроса: " Как стигнах до това решение?" Какво направих? Последвах ли шестото си чувство? Имше ли някой, който да ме посъветва? Или заложих на сигурно?" Или тук имаме още няколко варианта. " Прецених ли какво би ми донесло най-голямо удоволствие, както би направил Мил? Или като Кант използвах разума си, за да разбера какво е правилно по природа. Помислете върху това. Обмислете го внимателно. Това е важно. Толкова е важно, че сега ще прекараме 30 секунди от ценното TEDTalk време, без да правим нищо друго освен да мислим. Готови ли сте? Старт.
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
Стоп. Добре свършена работа. Това, което направихте току що е първата стъпка към това да поемате отговорност за това, което правим с нашата енергия.
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
Следващата стъпка е тази. Намерете приятел и му обяснете как взехте това решение. Не точно сега. Изчакайте да приключа с лекцията. Направете го по време на обяд. И нека това не бъде някой ваш колега; намерете някой различен от вас. Намерете човек на изкуството или писател, или за бога намерете философ и говорете с него. Всъщност намерете някой с хуманитарен профил Защо? Защото те разглеждат проблемите по различен начин от хората, които се занимават с технологии. Само преди няколко дни, точно от другата страна на улицата се бяха събрали стотици хора. Това бяха хора с технически и хуманитарен профил. Бяха се събрали на онази голяма BiblioTech конференция. Бяха се събрали, защото хората от техническите специалности искаха да научат какво значи да мислиш от хуманистична перспектива. Така хора от Google говореха със специалисти по литература. Разсъждавате върху значението на френския театър през 17 век - и се питате каква връзка има той с рисковия капитал? Добре, това е интересно. Това е различен начин на мислене. И когато разсъждавате по този начин, вие сте по-чувствителен към хуманитарния начин на мислене, който е есенциален за взимането на етични решения.
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
Представете си, че в точно в този момент срещате приятел музикант. И му разказвате за какво говорим, за цялата техническа революция и всички тези неща, може дори да му изтананикате няколко ноти от нашата тематична музика. Дръм та да да дъм дъм та да да дъм И така вашият приятел музикант ще ви спре и ще каже, " Нали знаеш, че темата на музиката на вашата техническа революция е опера, това е Вагнер. И тя е базирана на нордическа ленгенда. Това са Бог и митичните същества борещи се за магическите скъпоценности." Това е интересно. Освен това е красива опера. И тя ни впечатлява. Впечатлява ни, защото е за борбата между доброто и злото, между това кое е правилно и кое грешно. А за нас е важно какво е правилно и какво грешно. Интересува ни какво се случва в операта. Интересува ни какво се случва в "Апокалипсис сега" И определено ни засяга какво се случва с нашите технологии.
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
В нашето съвремие раполагаме с толкова много власт, че е в нашите възможности да решим как да постъпим. И това е добрата новина. Ние сме тези, които пишем тази опера. Това е нашият филм. Ние решаваме какво ще се случи с тази технология. Ние решаваме как ще свърши всичко това.
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
Благодаря ви
Thank you.
Аплодисменти.
(Applause)