So, I started my first job as a computer programmer in my very first year of college -- basically, as a teenager.
Отже, я почала працювати програмісткою, коли навчалась на першому курсі коледжу і була, по суті, ще тінейджеркою.
Soon after I started working, writing software in a company, a manager who worked at the company came down to where I was, and he whispered to me, "Can he tell if I'm lying?" There was nobody else in the room.
Після того, як я почала працювати, пишучи програмне забезпечення, менеджер, який теж там працював, підійшов до мене і прошепотів: "Чи може він сказати, що я брешу?" У кабінеті крім нас нікого не було.
"Can who tell if you're lying? And why are we whispering?"
"Хто може сказати, що ти брешеш? І чому ми говоримо пошепки?"
The manager pointed at the computer in the room. "Can he tell if I'm lying?" Well, that manager was having an affair with the receptionist.
Менеджер показав пальцем на комп'ютер. "Чи може він сказати, що я брешу?" Річ у тім, що в мого колеги був роман із секретаркою.
(Laughter)
(Сміх)
And I was still a teenager. So I whisper-shouted back to him, "Yes, the computer can tell if you're lying."
А я все ще була тінейджеркою. Тому голосно прошепотіла: "Так, комп'ютер може сказати, що ти брешеш".
(Laughter)
(Сміх)
Well, I laughed, but actually, the laugh's on me. Nowadays, there are computational systems that can suss out emotional states and even lying from processing human faces. Advertisers and even governments are very interested.
Ну, я сміялась, але насправді сміялась над собою. Сьогодні існують комп'ютерні системи, які можуть розпізнати емоції і навіть брехню, опрацювавши обличчя людини. Рекламодавці і навіть влада в цьому дуже зацікавлені.
I had become a computer programmer because I was one of those kids crazy about math and science. But somewhere along the line I'd learned about nuclear weapons, and I'd gotten really concerned with the ethics of science. I was troubled. However, because of family circumstances, I also needed to start working as soon as possible. So I thought to myself, hey, let me pick a technical field where I can get a job easily and where I don't have to deal with any troublesome questions of ethics. So I picked computers.
Я стала програмісткою, тому, що була однією з тих дітей, які шаленіли від точних наук. Але десь у процесі я дізналась про ядерну зброю, і мене справді схвилювало питання наукової етики. Я була стривожена. Однак через сімейні обставини мені також треба було почати працювати якнайшвидше. Тому я подумала: "Ей, обирай технічну сферу, де можна легко знайти роботу і де не треба мати справу з болісними етичними проблемами". Тому я обрала комп'ютери.
(Laughter)
(Сміх)
Well, ha, ha, ha! All the laughs are on me. Nowadays, computer scientists are building platforms that control what a billion people see every day. They're developing cars that could decide who to run over. They're even building machines, weapons, that might kill human beings in war. It's ethics all the way down.
Ха-ха-ха! Всі наді мною сміялися. Сьогодні програмісти будують платформи, які регулюють те, що мільйони людей щодня бачать. Вони удосконалюють автомобілі, які можуть вирішити, кого переїхати. Вони навіть конструюють машини і зброю, які можуть вбивати людей на війні. Це все одно проблема моралі.
Machine intelligence is here. We're now using computation to make all sort of decisions, but also new kinds of decisions. We're asking questions to computation that have no single right answers, that are subjective and open-ended and value-laden.
Це машинний інтелект. Сьогодні ми використовуємо комп'ютеризацію, щоб ухвалювати будь-які рішення, а також для нових рішень. Ми ставимо запитання машинам, які не мають чітких правильних відповідей, суб'єктивних, відкритих і заснованих на ідеях цінностей.
We're asking questions like, "Who should the company hire?" "Which update from which friend should you be shown?" "Which convict is more likely to reoffend?" "Which news item or movie should be recommended to people?"
Ми ставимо запитання на кшталт: "Кого компанії варто найняти?" "Новини якого друга потрібно показати?" "Який злочинець може знову порушити закон?" "Яку новину або фільм слід рекомендувати людям?"
Look, yes, we've been using computers for a while, but this is different. This is a historical twist, because we cannot anchor computation for such subjective decisions the way we can anchor computation for flying airplanes, building bridges, going to the moon. Are airplanes safer? Did the bridge sway and fall? There, we have agreed-upon, fairly clear benchmarks, and we have laws of nature to guide us. We have no such anchors and benchmarks for decisions in messy human affairs.
Так, ми постійно використовували комп'ютери, але це інше. Це історичний поворот, адже не можна передати комп'ютерам відповідальність за такі суб'єктивні рішення, так як передаємо за управління літаками, будування мостів, польоти на Місяць. Хіба літаки безпечніші? Мости не хиталися і не падали? У нас є загальноприйняті, цілком зрозумілі критерії порівняння, і є закони природи, які нами керують. У нас немає таких підстав та критеріїв, щоб ухвалювати рішення стосовно брудних людських справ.
To make things more complicated, our software is getting more powerful, but it's also getting less transparent and more complex. Recently, in the past decade, complex algorithms have made great strides. They can recognize human faces. They can decipher handwriting. They can detect credit card fraud and block spam and they can translate between languages. They can detect tumors in medical imaging. They can beat humans in chess and Go.
Програмне забезпечення стає потужнішим, щоб зробити деякі речі складнішими, але водночас стає прозорішим і заплутанішим. За останніх десять років заплутані алгоритми досягли великого успіху. Вони можуть розпізнавати обличчя людей. Можуть розшифрувати почерк. Можуть знайти кредитних шахраїв, блокувати спам, перекладати з мови на мову. Вони можуть виявити пухлини на рентгені. Обіграти людей в шахи чи "Ґо".
Much of this progress comes from a method called "machine learning." Machine learning is different than traditional programming, where you give the computer detailed, exact, painstaking instructions. It's more like you take the system and you feed it lots of data, including unstructured data, like the kind we generate in our digital lives. And the system learns by churning through this data. And also, crucially, these systems don't operate under a single-answer logic. They don't produce a simple answer; it's more probabilistic: "This one is probably more like what you're looking for."
Велика частина цього прогресу прийшла з методу "машинного навчання". Машинне навчання відрізняється від традиційного програмування, коли ви даєте комп'ютеру детальні, точні, досконалі інструкції. Це більше схоже на те, коли ви берете систему і наповнюєте її інформацією, зокрема неструктурованою, схожою на ту, що ми генеруємо у цифровому житті. І система вчиться на обробці цієї інформації. Також важливо, що системи не виконують завдання, пов'язані із необхідністю знайти єдину відповідь. Вони не дають просту відповідь, виходячи з теорії імовірностей. "Ось щось схоже на те, що ви шукаєте".
Now, the upside is: this method is really powerful. The head of Google's AI systems called it, "the unreasonable effectiveness of data." The downside is, we don't really understand what the system learned. In fact, that's its power. This is less like giving instructions to a computer; it's more like training a puppy-machine-creature we don't really understand or control. So this is our problem. It's a problem when this artificial intelligence system gets things wrong. It's also a problem when it gets things right, because we don't even know which is which when it's a subjective problem. We don't know what this thing is thinking.
Тепер позитивний аспект: цей метод справді потужний. Директор Google's AI systems називає його "ірраціональною ефективністю даних". Мінусом є те, що ми насправді не розуміємо, про що дізнається система. Насправді, в цьому сила системи. Це не схоже на ситуацію, коли ми даємо комп'ютеру інструкції, а, скоріше, на формування маленької машинної істоти, яку ми насправді не розуміємо і не контролюємо. Тому це наша проблема. Проблемно, коли система штучного інтелекту засвоює інформацію неправильно. Також проблемно, коли вона засвоює інформацію правильно, тому що ми не знаємо, хто є хто, коли це суб'єктивна проблема. Ми не знаємо, про що ця річ думає.
So, consider a hiring algorithm -- a system used to hire people, using machine-learning systems. Such a system would have been trained on previous employees' data and instructed to find and hire people like the existing high performers in the company. Sounds good. I once attended a conference that brought together human resources managers and executives, high-level people, using such systems in hiring. They were super excited. They thought that this would make hiring more objective, less biased, and give women and minorities a better shot against biased human managers.
Розглянемо алгоритм найму на роботу - система, яку застосовують для найму людей, використовує системи машинного навчання. Така система підготовлена на даних попередніх працівників і навчена шукати і наймати людей, подібних до найкращих працівників компанії. Звучить добре. Одного разу я відвідала конференцію, яку проводили керівники відділів кадрів та члени правління, люди на високих посадах, які використовують такі системи. Вони були в захопленні. Вони думали, що це зробить прийом на роботу більш об'єктивним, менш упередженим, і дасть жінкам і представникам меншин більше шансів, ніж упереджені менеджери.
And look -- human hiring is biased. I know. I mean, in one of my early jobs as a programmer, my immediate manager would sometimes come down to where I was really early in the morning or really late in the afternoon, and she'd say, "Zeynep, let's go to lunch!" I'd be puzzled by the weird timing. It's 4pm. Lunch? I was broke, so free lunch. I always went. I later realized what was happening. My immediate managers had not confessed to their higher-ups that the programmer they hired for a serious job was a teen girl who wore jeans and sneakers to work. I was doing a good job, I just looked wrong and was the wrong age and gender.
Найм людей на роботу - справа упереджена. Я знаю. На одній із перших компаній, де я програмувала, моя безпосередня керівничка деколи підходила до мене рано-вранці або пізно ввечері, і казала: "Зейнеп, ідемо обідати!" Я була здивована дивним вибором часу. 16:00. Обід? Ці сумнівні обіди мене ледь не розорили. Але я завжди йшла. Пізніше я усвідомила, що відбувалося. Мої безпосередні начальники не могли зізнатися вищому керівництву, що найняли для серйозної роботи дівчинку-підлітка, яка на роботу ходить у джинсах і кедах. Я добре працювала, але виглядала неправильно і була неправильного віку і статі.
So hiring in a gender- and race-blind way certainly sounds good to me. But with these systems, it is more complicated, and here's why: Currently, computational systems can infer all sorts of things about you from your digital crumbs, even if you have not disclosed those things. They can infer your sexual orientation, your personality traits, your political leanings. They have predictive power with high levels of accuracy. Remember -- for things you haven't even disclosed. This is inference.
Тому найм без врахування статі і раси безсумнівно мені підходив. Але з такими системами цей процес ще заплутаніший, і ось чому: останнім часом комп'ютерні системи можуть зробити будь-які висновки про вас, враховуючи цифрові дрібниці, навіть якщо ви про ці висновки не підозрюєте. Вони можуть робити висновки про сексуальну орієнтацію, персональні якості, політичні погляди. Вони можуть передбачати з високим рівнем точності. Пам'ятайте - речі, про які ви навіть не підозрюєте. Це припущення.
I have a friend who developed such computational systems to predict the likelihood of clinical or postpartum depression from social media data. The results are impressive. Her system can predict the likelihood of depression months before the onset of any symptoms -- months before. No symptoms, there's prediction. She hopes it will be used for early intervention. Great! But now put this in the context of hiring.
У мене є подруга, яка удосконалює такі системи, щоб передбачити ймовірність клінічної чи післяпологової депресії, аналізуючи соціальні мережі. Результати вражаючі. ЇЇ система може передбачити ймовірність депресії за місяці перед проявом симптомів - за місяці. Передбачення без симптомів. Вона сподівається, що систему застосують для втручання на ранній стадії. Чудово! Розгляньте це в контексті найму на роботу.
So at this human resources managers conference, I approached a high-level manager in a very large company, and I said to her, "Look, what if, unbeknownst to you, your system is weeding out people with high future likelihood of depression? They're not depressed now, just maybe in the future, more likely. What if it's weeding out women more likely to be pregnant in the next year or two but aren't pregnant now? What if it's hiring aggressive people because that's your workplace culture?" You can't tell this by looking at gender breakdowns. Those may be balanced. And since this is machine learning, not traditional coding, there is no variable there labeled "higher risk of depression," "higher risk of pregnancy," "aggressive guy scale." Not only do you not know what your system is selecting on, you don't even know where to begin to look. It's a black box. It has predictive power, but you don't understand it.
На конференції керівників кадрових служб я спілкувалася з топ-менеджеркою дуже великої компанії і сказала їй: "А якщо без вашого відома система видаляє людей з високою ймовірністю появи депресії? Наразі вони не пригнічені, але можливо стануть такими в майбутньому. Що як вона видаляє жінок, які, можливо, завагітніють за кілька наступних років, але не вагітні зараз? Що як вона наймає на роботу агресивних людей через корпоративну культуру?" Ви не можете цього сказати, дивлячись на гендерний баланс. Їх можна врівноважити. І так як це машинне навчання, а не традиційне програмування, немає змінних ярликів на кшталт: "високий ризик депресії", "високий ризик вагітності" чи "шкала агресивності". Ви не тільки не знаєте, що саме система візьме до уваги, ви навіть не знаєте, де це починати шукати. Це чорна скринька. Система має силу передбачення, але ви її не розумієте.
"What safeguards," I asked, "do you have to make sure that your black box isn't doing something shady?" She looked at me as if I had just stepped on 10 puppy tails.
Я запитала: "Які запобіжні заходи у вас є, щоб упевнитись, що ця чорна скринька не робить нічого підозрілого?" Вона подивилась на мене так, ніби я наступила щеняті на хвіст.
(Laughter)
(Сміх)
She stared at me and she said, "I don't want to hear another word about this." And she turned around and walked away. Mind you -- she wasn't rude. It was clearly: what I don't know isn't my problem, go away, death stare.
Пильно подивилася на мене і сказала: "Я більше не хочу нічого про це чути". А тоді повернулася і пішла геть. Зауважте - вона була вихована. Було зрозуміло: те, чого я не знаю - не моя проблема. Іди геть; вбивчий погляд.
(Laughter)
(Сміх)
Look, such a system may even be less biased than human managers in some ways. And it could make monetary sense. But it could also lead to a steady but stealthy shutting out of the job market of people with higher risk of depression. Is this the kind of society we want to build, without even knowing we've done this, because we turned decision-making to machines we don't totally understand?
Деколи такі системи можуть бути менш упереджені, ніж керівники відділів кадрів. І це може бути матеріально виправдано. Але також це може призвести до постійного і приховуваного виштовхування з ринку праці людей з високим ризиком розвитку депресії. Це таке суспільство, яке ми хочемо будувати, навіть не знаючи, що ми це зробили, тому що ми доручили ухвалення рішень машинам, яких повністю не розуміємо.
Another problem is this: these systems are often trained on data generated by our actions, human imprints. Well, they could just be reflecting our biases, and these systems could be picking up on our biases and amplifying them and showing them back to us, while we're telling ourselves, "We're just doing objective, neutral computation."
Є й інша проблема: часто ці програми базуються на інформації, пов'язаній з нашими діями, на людських враженнях. Вони можуть відображати наші упередження, можуть їх засвоїти і підсилити і повернути їх проти нас, тоді як ми кажемо: "Ми робимо об'єктивний, нейтральний розрахунок".
Researchers found that on Google, women are less likely than men to be shown job ads for high-paying jobs. And searching for African-American names is more likely to bring up ads suggesting criminal history, even when there is none. Such hidden biases and black-box algorithms that researchers uncover sometimes but sometimes we don't know, can have life-altering consequences.
Дослідники виявили, що в Google жінкам рідше пропонують оголошення про високооплачувану роботу. І під час пошуку афро-американських імен частіше з'являються рекламні оголошення про кримінальні історії, які навіть не стосуються пошуку. Такі приховані упередження і алгоритми "чорної скриньки", що їх дослідники деколи виявляють, а деколи ми про них навіть не знаємо, можуть мати життєвоважливі наслідки.
In Wisconsin, a defendant was sentenced to six years in prison for evading the police. You may not know this, but algorithms are increasingly used in parole and sentencing decisions. He wanted to know: How is this score calculated? It's a commercial black box. The company refused to have its algorithm be challenged in open court. But ProPublica, an investigative nonprofit, audited that very algorithm with what public data they could find, and found that its outcomes were biased and its predictive power was dismal, barely better than chance, and it was wrongly labeling black defendants as future criminals at twice the rate of white defendants.
У Вісконсині підсудний був засуджений до шести років у в'язниці за непокору поліції. Можливо, ви цього не знаєте, але алгоритми все частіше використовують для визначення міри покарання. Він хотів знати, як визначили цей показник. Вигідна "чорна скринька". Компанію, яка відмовилась від цього алгоритму, викликали на судове засідання. Некомерційна слідча компанія ProPublica перевірила той самий алгоритм з публічними даними, які вони могли знайти, і з'ясувала, що такі висновки були необ'єктивні, а здатність передбачення була мізерна, мало відрізнялася від випадковості і помилково маркувала чорношкірих обвинувачуваних, як майбутніх злочинців, в двічі частіше, ніж білих обвинувачуваних.
So, consider this case: This woman was late picking up her godsister from a school in Broward County, Florida, running down the street with a friend of hers. They spotted an unlocked kid's bike and a scooter on a porch and foolishly jumped on it. As they were speeding off, a woman came out and said, "Hey! That's my kid's bike!" They dropped it, they walked away, but they were arrested.
Розглянемо такий випадок: ця дівчина трохи запізно приїхала забирати свою сестру зі школи в окрузі Бровард, Флорида, і бігла по вулиці зі своїми друзями. Вони помітили неприщіпнутий на замок дитячий велосипед і самокат на терасі і здуру стрибнули на нього. Коли вони втікали, вийшла жінка і сказала: "Ей! Це велосипед моєї дитини!" Вони кинули велосипед і втікли, але їх арештували.
She was wrong, she was foolish, but she was also just 18. She had a couple of juvenile misdemeanors. Meanwhile, that man had been arrested for shoplifting in Home Depot -- 85 dollars' worth of stuff, a similar petty crime. But he had two prior armed robbery convictions. But the algorithm scored her as high risk, and not him. Two years later, ProPublica found that she had not reoffended. It was just hard to get a job for her with her record. He, on the other hand, did reoffend and is now serving an eight-year prison term for a later crime. Clearly, we need to audit our black boxes and not have them have this kind of unchecked power.
Дівчина вчинила неправильно і нерозважливо, але ж їй було всього 18. Вона скоїла декілька незначних правопорушень. Тим часом цього чоловіка арештували за крадіжку в магазині Home Depot - він вкрав речей на 85 доларів, такий же маленький злочин. Але до цього його двічі засудили за збройні напади. Однак алгоритм визначив, що вона небезпечніша за нього. Через два роки ProPublica з'ясувала, що вона знову порушила закон. І з такими даними їй було важко отримати роботу. З іншого боку, той чоловік знову порушив закон і тепер відбуває восьмирічний термін за останній злочин. Нам треба перевірити ці "чорні скриньки" і не наділяти їх такою неперевіреною силою.
(Applause)
(Оплески)
Audits are great and important, but they don't solve all our problems. Take Facebook's powerful news feed algorithm -- you know, the one that ranks everything and decides what to show you from all the friends and pages you follow. Should you be shown another baby picture?
Перевірки - це дуже важливо, але вони не розв'язують всіх наших проблем. Розглянемо потужний алгоритм стрічки новин у Фейсбуці - той, що упорядковує все і вирішує, що вам показати з усіх сторінок, на які ви підписані. Розказати про ще одну "дитячу картину"?
(Laughter)
(Сміх)
A sullen note from an acquaintance? An important but difficult news item? There's no right answer. Facebook optimizes for engagement on the site: likes, shares, comments.
Сумний пост знайомого? Важлива, але неприємна новина? Немає правильної відповіді. Фейсбук враховує активність на сайті: лайки, репости, коментарі.
In August of 2014, protests broke out in Ferguson, Missouri, after the killing of an African-American teenager by a white police officer, under murky circumstances. The news of the protests was all over my algorithmically unfiltered Twitter feed, but nowhere on my Facebook. Was it my Facebook friends? I disabled Facebook's algorithm, which is hard because Facebook keeps wanting to make you come under the algorithm's control, and saw that my friends were talking about it. It's just that the algorithm wasn't showing it to me. I researched this and found this was a widespread problem.
У серпні 2014 почалися протести у місті Ферґюсон, штат Міссуррі, після того. як білий поліцейський вбив афро-американського підлітка за незрозумілих обставин. Новини про ці протести заполонили мою невідфільтровану стрічку новин у Твіттері, але їх не було на моєму Фейсбуці. Справа у моїх друзях на Фейсбуці? Алгоритм Фейсбука вибив мене з колії, він складний, тому що Фейсбук підтримує бажання знаходитися під контролем алгоритму, і бачити, що мої друзі говорили про це. Це саме те, що алгоритм не показав мені. Я досліджувала цю проблему, і виявилось, що вона досить поширена.
The story of Ferguson wasn't algorithm-friendly. It's not "likable." Who's going to click on "like?" It's not even easy to comment on. Without likes and comments, the algorithm was likely showing it to even fewer people, so we didn't get to see this. Instead, that week, Facebook's algorithm highlighted this, which is the ALS Ice Bucket Challenge. Worthy cause; dump ice water, donate to charity, fine. But it was super algorithm-friendly. The machine made this decision for us. A very important but difficult conversation might have been smothered, had Facebook been the only channel.
Історія про Ферґюсон не подобалась алгоритму. Її не "лайкали". Хто вподобає такий запис? Її навіть непросто прокоментувати. Без вподобань і коментарів алгоритм показував цей запис жменьці людей, тому ми його не побачили. Навпаки, того тижня алгоритм Фейсбука виділяв те, що називають Ice Bucket Challenge. Суспільно значуща справа: обливаєш себе холодною водою заради благодійності. Але це дуже подобалось алгоритму. За нас це рішення прийняла машина. Дуже важливе, але заплутане обговорення могло бути придушене, якби Фейсбук мав лише одну стрічку новин.
Now, finally, these systems can also be wrong in ways that don't resemble human systems. Do you guys remember Watson, IBM's machine-intelligence system that wiped the floor with human contestants on Jeopardy? It was a great player. But then, for Final Jeopardy, Watson was asked this question: "Its largest airport is named for a World War II hero, its second-largest for a World War II battle."
Зрештою, ці системи можуть помилятися так, як цього не допустить людський ресурс. Пам'ятаєте систему штучного інтелекту Watson, що витирала підлогу, змагаючись з людьми на телегрі Jeopardy? Вона була чудовим гравцем. Але у фіналі Watson запитали: "Його найбільший аеропорт назвали на честь героя Другої світової війни, а другий за розміром - на честь битви Другої світової війни".
(Hums Final Jeopardy music)
(Музика з фіналу Jeopardy)
Chicago. The two humans got it right. Watson, on the other hand, answered "Toronto" -- for a US city category! The impressive system also made an error that a human would never make, a second-grader wouldn't make.
Чикаго. Дві людини відповіли правильно. Натомість Watson відповів "Торонто" - і це в категорії міст США! Вражаючі системи також робили помилки, яких людина ніколи не допустила б, яких не зробив би навіть другокласник.
Our machine intelligence can fail in ways that don't fit error patterns of humans, in ways we won't expect and be prepared for. It'd be lousy not to get a job one is qualified for, but it would triple suck if it was because of stack overflow in some subroutine.
Штучний інтелект може провалитися так, як люди зазвичай не помиляються, так, як ми не будемо сподіватися і не будемо до цього готові. Кепсько не отримати роботу, до якої підходить твоя кваліфікація, але ще гірше не отримати її через переповнення стека в якійсь програмі.
(Laughter)
(Сміх)
In May of 2010, a flash crash on Wall Street fueled by a feedback loop in Wall Street's "sell" algorithm wiped a trillion dollars of value in 36 minutes. I don't even want to think what "error" means in the context of lethal autonomous weapons.
У травні 2010 різкий обвал на Волл-Стріт, спричинений циклом зворотнього зв'язку в "торговому" алгоритмі, знищив трильйон доларів за 36 хвилин. Я навіть не хочу думати, що "помилка" означає в контексті атомної системи летального озброєння.
So yes, humans have always made biases. Decision makers and gatekeepers, in courts, in news, in war ... they make mistakes; but that's exactly my point. We cannot escape these difficult questions. We cannot outsource our responsibilities to machines.
Так, люди завжди досить упереджені. Ті, хто ухвалює рішення і цензори в судах, у новинах, на війні... вони помиляються; але у цьому й річ. Ми не можемо уникнути цих заплутаних питань. Ми не можемо перекладати відповідальність на машини.
(Applause)
(Оплески)
Artificial intelligence does not give us a "Get out of ethics free" card.
Штучний інтелект не дає нам картку "звільнення від моральних норм".
Data scientist Fred Benenson calls this math-washing. We need the opposite. We need to cultivate algorithm suspicion, scrutiny and investigation. We need to make sure we have algorithmic accountability, auditing and meaningful transparency. We need to accept that bringing math and computation to messy, value-laden human affairs does not bring objectivity; rather, the complexity of human affairs invades the algorithms. Yes, we can and we should use computation to help us make better decisions. But we have to own up to our moral responsibility to judgment, and use algorithms within that framework, not as a means to abdicate and outsource our responsibilities to one another as human to human.
Фахівець з обробки даних Фред Бененсон називає це математичною чисткою. Нам треба щось протилежне. Нам треба удосконалювати підозри, вивчення і дослідження алгоритмів. Треба впевнитись, що у нас є алгоритмічна звітність, перевірка і повноцінна прозорість. Треба прийняти те, що залучення комп'ютерів до безладних людських справ, заснованих на цінностях, не гарантують об'єктивності; алгоритмам, навпаки, передалася заплутаність людських справ. Так, нам можна і треба використовувати комп'ютери, щоб ухвалювати кращі рішення. Але ми маємо підкорятися моральній відповідальності за вироки суду і використовувати алгоритми максимум як структуру, а не як засіб відмовитися і перекласти відповідальність на когось ще, як людина на людину.
Machine intelligence is here. That means we must hold on ever tighter to human values and human ethics.
Штучний інтелект тут. І це означає, що ми мусимо триматись ще сильніше за людські цінності і людську мораль.
Thank you.
Дякую.
(Applause)
(Оплески)