So, I started my first job as a computer programmer in my very first year of college -- basically, as a teenager.
Я начала работать программистом в первый год учёбы в колледже, практически подростком.
Soon after I started working, writing software in a company, a manager who worked at the company came down to where I was, and he whispered to me, "Can he tell if I'm lying?" There was nobody else in the room.
Вскоре после того, как я начала работать — писать программное обеспечение, один из работающих в компании менеджеров подошёл ко мне и прошептал: «Он понимает, когда я вру?» В комнате никого больше не было.
"Can who tell if you're lying? And why are we whispering?"
«Кто он? И почему ты шепчешь?»
The manager pointed at the computer in the room. "Can he tell if I'm lying?" Well, that manager was having an affair with the receptionist.
Менеджер указал на компьютер. «Он может понять, когда я вру?» Кстати, у этого менеджера был роман с секретаршей.
(Laughter)
(Смех)
And I was still a teenager. So I whisper-shouted back to him, "Yes, the computer can tell if you're lying."
А а была ещё подростком. Поэтому я шёпотом крикнула ему: «Да, компьютер может понять, когда вы лжёте».
(Laughter)
(Смех)
Well, I laughed, but actually, the laugh's on me. Nowadays, there are computational systems that can suss out emotional states and even lying from processing human faces. Advertisers and even governments are very interested.
Я пошутила, но оказалось, что это была не шутка. Теперь существуют вычислительные системы, которые могут определить ваше эмоциональное состояние и даже ложь, обрабатывая выражения человеческих лиц. Рекламодатели и правительства очень заинтересованы.
I had become a computer programmer because I was one of those kids crazy about math and science. But somewhere along the line I'd learned about nuclear weapons, and I'd gotten really concerned with the ethics of science. I was troubled. However, because of family circumstances, I also needed to start working as soon as possible. So I thought to myself, hey, let me pick a technical field where I can get a job easily and where I don't have to deal with any troublesome questions of ethics. So I picked computers.
Я стала программистом, потому что я была одержимым математикой и наукой ребёнком. Но в какой-то момент я узнала о существовании ядерного оружия и всерьёз задумалась о научной этике. Меня это беспокоило. Однако из-за семейных обстоятельств мне пришлось начать работать как можно скорее. Так что я подумала: «Эй, мне просто надо выбрать техническую область, где я смогу легко получить работу, и где мне не придётся иметь дело со сложными этическими вопросами». Так что я выбрала компьютеры.
(Laughter)
(Смех)
Well, ha, ha, ha! All the laughs are on me. Nowadays, computer scientists are building platforms that control what a billion people see every day. They're developing cars that could decide who to run over. They're even building machines, weapons, that might kill human beings in war. It's ethics all the way down.
Ха, ха, ха! Все смеются надо мной. В наши дни компьютерные учёные создают платформы, которые контролируют то, что миллиард человек видит каждый день. Они разрабатывают автомобили, которые могли бы решить, кого задавить. Они даже разрабатывают машины и оружие, которые могут убивать людей на войне. Здесь вопросы этики повсюду.
Machine intelligence is here. We're now using computation to make all sort of decisions, but also new kinds of decisions. We're asking questions to computation that have no single right answers, that are subjective and open-ended and value-laden.
Искусственный интеллект уже здесь. Мы уже используем вычислительную технику для принятия каких угодно решений, и даже для создания новых решений. Мы задаём компьютерам вопросы, на которые нет единого правильного ответа: субъективные вопросы, открытые и вопросы оценочного характера.
We're asking questions like, "Who should the company hire?" "Which update from which friend should you be shown?" "Which convict is more likely to reoffend?" "Which news item or movie should be recommended to people?"
Мы задавали такие вопросы, как: «Кого стоит нанять в компанию?» «Какое обновление и от какого друга мы должны видеть?» «Кто из осуждённых скорее всего станет рецидивистом?» «Какие новости или фильмы рекомендовать людям?»
Look, yes, we've been using computers for a while, but this is different. This is a historical twist, because we cannot anchor computation for such subjective decisions the way we can anchor computation for flying airplanes, building bridges, going to the moon. Are airplanes safer? Did the bridge sway and fall? There, we have agreed-upon, fairly clear benchmarks, and we have laws of nature to guide us. We have no such anchors and benchmarks for decisions in messy human affairs.
Да, мы используем компьютеры уже продолжительное время, но это совсем другое. Это исторический поворот, потому что базис для вычисления принятия субъективных решений, отличается от того, что используется для сборки самолётов, строительства мостов или полётов на Луну. Самолёты стали безопаснее? Мосты больше не падают? Здесь у нас есть достаточно чёткие критерии и законы природы, на которые мы можем положиться. Но нет чётких критериев для принятия решений в запутанных людских делах.
To make things more complicated, our software is getting more powerful, but it's also getting less transparent and more complex. Recently, in the past decade, complex algorithms have made great strides. They can recognize human faces. They can decipher handwriting. They can detect credit card fraud and block spam and they can translate between languages. They can detect tumors in medical imaging. They can beat humans in chess and Go.
Ещё больше усложняет задачу программное обеспечение, становящееся менее прозрачным и более сложным и мощным. За последнее десятилетие развитие сложных алгоритмов достигло больших успехов. Они могут распознавать человеческие лица. Они могут расшифровывать почерк. Выявить мошенничество с кредитными картами или блокировать спам, они могут переводить с других языков. Они могут выявлять опухоли в рентгенографии. Они могут обыгрывать нас в шахматы и в Го.
Much of this progress comes from a method called "machine learning." Machine learning is different than traditional programming, where you give the computer detailed, exact, painstaking instructions. It's more like you take the system and you feed it lots of data, including unstructured data, like the kind we generate in our digital lives. And the system learns by churning through this data. And also, crucially, these systems don't operate under a single-answer logic. They don't produce a simple answer; it's more probabilistic: "This one is probably more like what you're looking for."
Большáя часть этого прогресса достигнута с помощью «машинного обучения». Машинное обучение отличается от традиционного программирования, где вы даёте компьютеру подробные, точные, чёткие инструкции. Это больше похоже, как будто мы скармливаем компьютеру много данных, в том числе бессистемных данных, как те, что мы создаём в нашей цифровой жизни. И система сама учится систематизировать эти данные. Особенно важно то, что эти системы не работают по логике поиска единого ответа. Они не дают однозначного ответа, они основаны на вероятности: «Этот ответ, вероятно, похож на то, что вы ищете».
Now, the upside is: this method is really powerful. The head of Google's AI systems called it, "the unreasonable effectiveness of data." The downside is, we don't really understand what the system learned. In fact, that's its power. This is less like giving instructions to a computer; it's more like training a puppy-machine-creature we don't really understand or control. So this is our problem. It's a problem when this artificial intelligence system gets things wrong. It's also a problem when it gets things right, because we don't even know which is which when it's a subjective problem. We don't know what this thing is thinking.
Плюс этого метода в том, что он очень перспективный. Глава систем ИИ Google назвал его «нерационально высокая эффективность данных». Минус в том, что мы не знаем, что именно система выучила. В этом мощь системы. Это не похоже на то, как давать указания компьютеру; это больше похоже на обучение машины-щенка, которого мы не понимаем и не контролируем. В этом наша проблема. Плохо, когда система искусственного интеллекта понимает что-то неправильно. И также плохо, когда система понимает что-то правильно, потому что мы не знаем, что есть что, когда дело касается субъективой проблемы. Мы не знаем, о чём эта штука думает.
So, consider a hiring algorithm -- a system used to hire people, using machine-learning systems. Such a system would have been trained on previous employees' data and instructed to find and hire people like the existing high performers in the company. Sounds good. I once attended a conference that brought together human resources managers and executives, high-level people, using such systems in hiring. They were super excited. They thought that this would make hiring more objective, less biased, and give women and minorities a better shot against biased human managers.
Рассмотрим алгоритм приёма на работу — система для найма людей с использованием машинного обучения. Такая система будет обучаться по данным о предыдущих сотрудниках и будет искать и нанимать людей, похожих на нынешних самых эффективных сотрудников компании. Звучит хорошо. Однажды я была на конференции для руководителей, менеджеров по персоналу и топ-менеджеров, использующих такую систему найма. Все были очень воодушевлены. Они думали, что это сделает процесс найма более объективным, менее предвзятым, даст женщинам и меньшинствам больше шансов в отличие от предвзято настроенных менеджеров.
And look -- human hiring is biased. I know. I mean, in one of my early jobs as a programmer, my immediate manager would sometimes come down to where I was really early in the morning or really late in the afternoon, and she'd say, "Zeynep, let's go to lunch!" I'd be puzzled by the weird timing. It's 4pm. Lunch? I was broke, so free lunch. I always went. I later realized what was happening. My immediate managers had not confessed to their higher-ups that the programmer they hired for a serious job was a teen girl who wore jeans and sneakers to work. I was doing a good job, I just looked wrong and was the wrong age and gender.
Найм сотрудников построен на предвзятости. Я знаю. На одной из моих первых работ в качестве программиста моя непосредственная начальница иногда подходила ко мне очень рано утром или очень поздно днём и говорила: «Зейнеп, пойдём обедать!» Я была озадачена странным выбором времени. Обед в 4 часа дня? Бесплатный ланч; денег у меня нет. Я всегда ходила. Позже я поняла, что происходит. Мои непосредственные руководители не признались вышестоящему руководству, что программист, которого они наняли на серьёзный проект — девушка подросток, которая ходит на работу в джинсах и кроссовках. Я хорошо выполняла работу, я просто выглядела неподобающе, была неправильного возраста и пола.
So hiring in a gender- and race-blind way certainly sounds good to me. But with these systems, it is more complicated, and here's why: Currently, computational systems can infer all sorts of things about you from your digital crumbs, even if you have not disclosed those things. They can infer your sexual orientation, your personality traits, your political leanings. They have predictive power with high levels of accuracy. Remember -- for things you haven't even disclosed. This is inference.
Так что найм без учёта пола и расы, конечно, звучит для меня как хорошая идея. Но с этими системами всё сложнее, и вот почему: Сейчас вычислительные системы могут узнать всю информацию о вас по крошкам, что вы оставляете в цифровом виде, даже если вы не разглашаете такую информацию. Они могут вычислить вашу сексуальную ориентацию, ваши черты характера, ваши политические пристрастия. Они могут составлять прогнозы с высоким уровнем точности. Помните, даже для информации, которую вы даже не разглашаете. Это предположения.
I have a friend who developed such computational systems to predict the likelihood of clinical or postpartum depression from social media data. The results are impressive. Her system can predict the likelihood of depression months before the onset of any symptoms -- months before. No symptoms, there's prediction. She hopes it will be used for early intervention. Great! But now put this in the context of hiring.
У меня есть подруга, которая разрабатывает такие системы для прогнозирования вероятности клинической или послеродовой депрессии по данным из социальных сетей. Результаты впечатляют. Её система может предсказать вероятность депрессии до появления каких-либо симптомов — за несколько месяцев. Симптомов нет, а прогноз есть. Она надеется, что программа будет использоваться для профилактики. Отлично! Теперь представьте это в контексте найма.
So at this human resources managers conference, I approached a high-level manager in a very large company, and I said to her, "Look, what if, unbeknownst to you, your system is weeding out people with high future likelihood of depression? They're not depressed now, just maybe in the future, more likely. What if it's weeding out women more likely to be pregnant in the next year or two but aren't pregnant now? What if it's hiring aggressive people because that's your workplace culture?" You can't tell this by looking at gender breakdowns. Those may be balanced. And since this is machine learning, not traditional coding, there is no variable there labeled "higher risk of depression," "higher risk of pregnancy," "aggressive guy scale." Not only do you not know what your system is selecting on, you don't even know where to begin to look. It's a black box. It has predictive power, but you don't understand it.
На той конференции для управляющих персоналом я подошла к менеджеру высокого уровня в очень крупной компании, и спросила её: «Что, если система без вашего ведома, начнёт отсеивать людей с высокой вероятностью будущей депрессии? Сейчас у них нет депрессии, но в будущем вероятность высока. Что, если система начнёт отсеивать женщин, чья вероятность забеременеть через год или два выше, но они не беременны сейчас? Если начнёт нанимать агрессивных людей, потому что это норма для вашей компании? Этого не определить, глядя на процентное соотношение полов. Эти показатели могут быть в норме. Так как это машинное обучение, а не традиционное программирование, тут нет переменной «более высокий риск депрессии», «высокий риск беременности», или «агрессивный парень». Мало того, что вы не знаете, как ваша система делает выводы, вы даже не знаете, откуда что берётся. Это чёрный ящик. Он может прогнозировать, но мы не понимаем принцип его работы.
"What safeguards," I asked, "do you have to make sure that your black box isn't doing something shady?" She looked at me as if I had just stepped on 10 puppy tails.
Я спросила: «Какие у вас меры предосторожности, чтобы убедиться, что чёрный ящик не делает ничего сомнительного?» Она посмотрела на меня, как будто я только что отдавила хвосты 10 щенкам.
(Laughter)
(Смех)
She stared at me and she said, "I don't want to hear another word about this." And she turned around and walked away. Mind you -- she wasn't rude. It was clearly: what I don't know isn't my problem, go away, death stare.
Она посмотрела на меня и сказала: «Я не хочу слышать ни слова об этом». Она повернулась и пошла прочь. Имейте в виду — она не грубила мне. Позиция очевидна: то, что я не знаю — не моя проблема, отвяжись, стрелы из глаз.
(Laughter)
(Смех)
Look, such a system may even be less biased than human managers in some ways. And it could make monetary sense. But it could also lead to a steady but stealthy shutting out of the job market of people with higher risk of depression. Is this the kind of society we want to build, without even knowing we've done this, because we turned decision-making to machines we don't totally understand?
Такая система может быть менее предвзятой, чем сами менеджеры в каком-то смысле. В этом может быть финансовая выгода. Но это также может привести к неуклонному и скрытому выдавливанию с рынка труда людей с более высоким риском развития депрессии. Мы хотим построить такое общество, даже не осознавая, что мы делаем, потому что отдали право принятия решений машинам, которых до конца не понимаем?
Another problem is this: these systems are often trained on data generated by our actions, human imprints. Well, they could just be reflecting our biases, and these systems could be picking up on our biases and amplifying them and showing them back to us, while we're telling ourselves, "We're just doing objective, neutral computation."
Следующая проблема: эти системы часто обучаются на данных, произведённых нашими действиями — человеческим поведением. Возможно, они просто отражают наши предубеждения, и эти системы могут собирать наши пристрастия и усиливать их, показывая нам их вновь, а мы говорим себе: «Мы просто проводим объективные, непредвзятые вычисления».
Researchers found that on Google, women are less likely than men to be shown job ads for high-paying jobs. And searching for African-American names is more likely to bring up ads suggesting criminal history, even when there is none. Such hidden biases and black-box algorithms that researchers uncover sometimes but sometimes we don't know, can have life-altering consequences.
Исследователи обнаружили что в Google женщины реже, чем мужчины, видят объявления о высокооплачиваемой работе. Набирая в поисковике афро-американские имена, вероятность увидеть объявления криминального характера будет выше, даже там, где криминала нет. Скрытая необъективность и алгоритмы чёрного ящика, которые исследователи иногда выявляют, а иногда нет, могут иметь далеко идущие последствия.
In Wisconsin, a defendant was sentenced to six years in prison for evading the police. You may not know this, but algorithms are increasingly used in parole and sentencing decisions. He wanted to know: How is this score calculated? It's a commercial black box. The company refused to have its algorithm be challenged in open court. But ProPublica, an investigative nonprofit, audited that very algorithm with what public data they could find, and found that its outcomes were biased and its predictive power was dismal, barely better than chance, and it was wrongly labeling black defendants as future criminals at twice the rate of white defendants.
В Висконсине подсудимый был приговорён к шести годам лишения свободы за уклонение от полиции. Может, вы не знаете, но эти алгоритмы всё чаще используются в вынесении приговоров. Он хотел узнать, как всё это рассчитывается? Это коммерческий чёрный ящик. Компания отказалась обсуждать свой алгоритм на открытом заседании суда. Но следственная некоммерческая организация ProPublica проверила алгоритм, используя данные из Интернета, и обнаружила, что результаты необъективны, способность прогнозирования ужасная, немного лучше, чем случайность. Система классифицирует чернокожих обвиняемых как будущих преступников в два раза чаще, чем белых обвиняемых.
So, consider this case: This woman was late picking up her godsister from a school in Broward County, Florida, running down the street with a friend of hers. They spotted an unlocked kid's bike and a scooter on a porch and foolishly jumped on it. As they were speeding off, a woman came out and said, "Hey! That's my kid's bike!" They dropped it, they walked away, but they were arrested.
Рассмотрим следующий случай: Эта девушка опаздывала, чтобы забрать свою крёстную сестру из школы в округе Броуард, штат Флорида. Они с подругой бежали по улице. Тут они заметили незапертые велосипед и скутер на крыльце и по глупости взяли их. Когда они отъезжали, вышла женщина и крикнула: «Эй! Это велосипед моего ребёнка!» Они его бросили и ушли, но их арестовали.
She was wrong, she was foolish, but she was also just 18. She had a couple of juvenile misdemeanors. Meanwhile, that man had been arrested for shoplifting in Home Depot -- 85 dollars' worth of stuff, a similar petty crime. But he had two prior armed robbery convictions. But the algorithm scored her as high risk, and not him. Two years later, ProPublica found that she had not reoffended. It was just hard to get a job for her with her record. He, on the other hand, did reoffend and is now serving an eight-year prison term for a later crime. Clearly, we need to audit our black boxes and not have them have this kind of unchecked power.
Она была не права, она сглупила, но ей было всего 18 лет. У неё была пара малолетних правонарушений. В то же время этот мужчина был арестован за кражу в магазине Home Depot, примерно на сумму 85 долларов — такое же мелкое преступление. Но у него за спиной было две судимости за вооружённый грабеж. Алгоритм посчитал, что её показатель риска выше, чем его. Спустя пару лет ProPublica выяснили, что она больше не совершала преступлений. Но зато ей было сложно найти работу, имея судимость. Тогда как этот мужчина стал рецидивистом, и в настоящее время отбывает восьмилетний срок за своё последнее преступление. Очевидно, мы должны проверять наши чёрные ящики, чтобы они не получили бесконтрольную власть.
(Applause)
(Аплодисменты)
Audits are great and important, but they don't solve all our problems. Take Facebook's powerful news feed algorithm -- you know, the one that ranks everything and decides what to show you from all the friends and pages you follow. Should you be shown another baby picture?
Проверка и контроль важны, но они не решают всех проблем. Вспомните мощный алгоритм ленты новостей на Facebook — знаете, тот, который оценивает всё и решает, что именно вам показывать от ваших друзей и до страниц, на которые вы подписаны. Показать вам ещё одну картинку младенца?
(Laughter)
(Смех)
A sullen note from an acquaintance? An important but difficult news item? There's no right answer. Facebook optimizes for engagement on the site: likes, shares, comments.
Грустный комментарий от знакомого? Важную, но непростую новость? Тут нет единого ответа. Facebook оптимизирует вашу деятельность на сайте: лайки, ссылки, комментарии.
In August of 2014, protests broke out in Ferguson, Missouri, after the killing of an African-American teenager by a white police officer, under murky circumstances. The news of the protests was all over my algorithmically unfiltered Twitter feed, but nowhere on my Facebook. Was it my Facebook friends? I disabled Facebook's algorithm, which is hard because Facebook keeps wanting to make you come under the algorithm's control, and saw that my friends were talking about it. It's just that the algorithm wasn't showing it to me. I researched this and found this was a widespread problem.
В августе 2014 года в Фергюсоне, штат Миссури вспыхнули протесты после того, как белый полицейский убил афро-американского подростка при невыясненных обстоятельствах. Новости о протестах заполонили мой алгоритмически нефильтрованный Twitter, но в моём Facebook их не было. Может, это из-за моих друзей в Facebook? Я отключила алгоритм Facebook, что было сложно, так как Facebook хочет, чтобы вы были под контролем алгоритма. Я увидела, что мои друзья обсуждали эту тему. Просто алгоритм не показывал это мне. Я изучила этот вопрос и выяснила, что это распространённая проблема.
The story of Ferguson wasn't algorithm-friendly. It's not "likable." Who's going to click on "like?" It's not even easy to comment on. Without likes and comments, the algorithm was likely showing it to even fewer people, so we didn't get to see this. Instead, that week, Facebook's algorithm highlighted this, which is the ALS Ice Bucket Challenge. Worthy cause; dump ice water, donate to charity, fine. But it was super algorithm-friendly. The machine made this decision for us. A very important but difficult conversation might have been smothered, had Facebook been the only channel.
Новость про Фергюсон была неудобна для алгоритма. Эта новость не наберёт лайки. Кто будет лайкать это? Это даже сложно комментировать. Без лайков и комментариев алгоритм, вероятно, показывал новость ещё меньшему кругу людей, поэтому мы не видели это. Вместо этого на той же неделе алгоритм Facebook выделил это — кампания «испытание ведром ледяной воды». Важное дело: выливаем ведро со льдом, жертвуем на благотворительность — супер. Это было очень удобно для алгоритма. Машина решила за нас. Очень важный, но трудный разговор, возможно, был бы замят, будь Facebook единственным каналом.
Now, finally, these systems can also be wrong in ways that don't resemble human systems. Do you guys remember Watson, IBM's machine-intelligence system that wiped the floor with human contestants on Jeopardy? It was a great player. But then, for Final Jeopardy, Watson was asked this question: "Its largest airport is named for a World War II hero, its second-largest for a World War II battle."
Наконец, эти системы могут делать ошибки, которые не похожи на ошибки людей. Помните Уотсона, искусственный интеллект IBM, который разгромил соперников-людей на телевикторине Jeopardy? Он был отличным игроком. Тогда, во время финала игры Уотсону задали вопрос: «Его крупнейший аэропорт назван в честь героя Второй мировой войны, а второй — в честь битвы Второй мировой войны».
(Hums Final Jeopardy music)
(Музыка Final Jeopardy)
Chicago. The two humans got it right. Watson, on the other hand, answered "Toronto" -- for a US city category! The impressive system also made an error that a human would never make, a second-grader wouldn't make.
Чикаго. Два человека ответили правильно. Уотсон ответил «Торонто» — в категории городов США! Мощнейшая система сделала ошибку, которую человек никогда бы не сделал, даже второклассник бы не ошибся.
Our machine intelligence can fail in ways that don't fit error patterns of humans, in ways we won't expect and be prepared for. It'd be lousy not to get a job one is qualified for, but it would triple suck if it was because of stack overflow in some subroutine.
Искусственный интеллект может ошибиться там, где человек не допустит ошибку, там, где мы не ожидаем ошибку и не готовы к ней. Жалко не получить работу тому, кто для неё подходит, но ещё хуже, если это произошло из-за переполнения стека в какой-то подпрограмме.
(Laughter)
(Смех)
In May of 2010, a flash crash on Wall Street fueled by a feedback loop in Wall Street's "sell" algorithm wiped a trillion dollars of value in 36 minutes. I don't even want to think what "error" means in the context of lethal autonomous weapons.
В мае 2010 года произошёл обвал рынка Уолл-стрит по вине метода передачи данных в алгоритме Уолл-стрит «сбыт», что снизило стоимость бумаг на триллион долларов на 36 минут. Даже подумать страшно, какие последствия может иметь «ошибка» в контексте автономного летального оружия.
So yes, humans have always made biases. Decision makers and gatekeepers, in courts, in news, in war ... they make mistakes; but that's exactly my point. We cannot escape these difficult questions. We cannot outsource our responsibilities to machines.
У людей всегда предвзятый взгляд на вещи. Лица, принимающие решения, и контролёры; в судах, в новостях, на войне ... люди совершают ошибки — именно это я и имею в виду. Мы не можем избежать сложных вопросов. Мы не можем переложить свои обязанности на машины.
(Applause)
(Аплодисменты)
Artificial intelligence does not give us a "Get out of ethics free" card.
Искусственный интеллект не даёт нам права переложить вопросы этики на машину.
Data scientist Fred Benenson calls this math-washing. We need the opposite. We need to cultivate algorithm suspicion, scrutiny and investigation. We need to make sure we have algorithmic accountability, auditing and meaningful transparency. We need to accept that bringing math and computation to messy, value-laden human affairs does not bring objectivity; rather, the complexity of human affairs invades the algorithms. Yes, we can and we should use computation to help us make better decisions. But we have to own up to our moral responsibility to judgment, and use algorithms within that framework, not as a means to abdicate and outsource our responsibilities to one another as human to human.
Эксперт по данным Фред Бененсон называет это «математической чисткой». Нам нужно совсем другое. Нам необходимы пристальное внимание, контроль и оценка алгоритмов. У нас должна быть алгоритмическая отчётность, проверка и достаточная прозрачность. Мы должны признать, что, добавив математику и вычисления к запутанным человеческим делам, мы не получим объективности; скорее, сложность человеческих отношений вторгнется в алгоритмы. Да, мы можем, и мы должны использовать вычисления для поиска лучших решений. Мы также должны нести моральную ответственность и принимать решения, успользуя алгоритмы в этих рамках, а не как средство отказа от обязательств, чтобы передать наши обязанности друг другу, как один человек другому.
Machine intelligence is here. That means we must hold on ever tighter to human values and human ethics.
Искусственный интеллект уже здесь. Это значит, что мы должны ещё больше придерживаться человеческих ценностей и этики.
Thank you.
Спасибо.
(Applause)
(Аплодисменты)