I work on helping computers communicate about the world around us. There are a lot of ways to do this, and I like to focus on helping computers to talk about what they see and understand. Given a scene like this, a modern computer-vision algorithm can tell you that there's a woman and there's a dog. It can tell you that the woman is smiling. It might even be able to tell you that the dog is incredibly cute. I work on this problem thinking about how humans understand and process the world. The thoughts, memories and stories that a scene like this might evoke for humans. All the interconnections of related situations. Maybe you've seen a dog like this one before, or you've spent time running on a beach like this one, and that further evokes thoughts and memories of a past vacation, past times to the beach, times spent running around with other dogs. One of my guiding principles is that by helping computers to understand what it's like to have these experiences, to understand what we share and believe and feel, then we're in a great position to start evolving computer technology in a way that's complementary with our own experiences.
Моя работа — помогать компьютерам делать сообщения об окружающем мире. Есть много способов сделать это, но мне нравится помогать компьютерам рассказывать о том, что они видят и понимают. Например, на этой картинке современный алгоритм компьютерного видения может распознать, что это — женщина, а это — собака. Он может сказать, что женщина улыбается. Он даже способен сказать, что собака необыкновенно милая. Я работаю над этим, думая о том, как люди понимают и обрабатывают данные о мире. Какие мысли, воспоминания и истории может пробуждать в людях такая вот картинка. Всё, что связано с подобными ситуациями. Возможно, вы видели похожую собаку раньше или проводили время, так же бегая по пляжу, и это, в свою очередь, вызывает мысли и воспоминания о прошедшем отпуске, о времени, проведённом на пляже, или времени, когда вы бегали где-то с другой собакой. Один из моих главных принципов — это помочь компьютерам понять, что значит иметь подобный опыт, понять, чем мы делимся, во что верим и что чувствуем, потому что тогда мы будем готовы начать вовлекать компьютерные технологии в процессы, дополняющие наш собственный опыт.
So, digging more deeply into this, a few years ago I began working on helping computers to generate human-like stories from sequences of images. So, one day, I was working with my computer to ask it what it thought about a trip to Australia. It took a look at the pictures, and it saw a koala. It didn't know what the koala was, but it said it thought it was an interesting-looking creature. Then I shared with it a sequence of images about a house burning down. It took a look at the images and it said, "This is an amazing view! This is spectacular!" It sent chills down my spine. It saw a horrible, life-changing and life-destroying event and thought it was something positive. I realized that it recognized the contrast, the reds, the yellows, and thought it was something worth remarking on positively. And part of why it was doing this was because most of the images I had given it were positive images. That's because people tend to share positive images when they talk about their experiences. When was the last time you saw a selfie at a funeral?
Если копнуть глубже, несколько лет назад я начала помогать компьютерам писать рассказы на основе цепочки изображений. И однажды в ходе работы я спросила компьютер, что он думает о поездке в Австралию. Он взглянул на картинки и увидел коалу. Он не знал, что такое коала, но сказал, что считает её любопытным созданием. Затем я поделилась с ним цепочкой изображений о горящих домах. Он посмотрел на картинки и сказал: «Удивительный вид! Потрясающе!» У меня по спине побежали мурашки. Он смотрел на ужасное, разрушающее жизни событие и думал, что это нечто положительное. Я поняла, что он распознал контрасты, оттенки красного и жёлтого и подумал, что это заслуживает позитивной оценки. Отчасти он сделал это, потому что большинство изображений, которые я давала ему, были позитивными. Потому что люди склонны делиться позитивными изображениями, когда рассказывают о своём опыте. Когда вы в последний раз видели селфи на похоронах?
I realized that, as I worked on improving AI task by task, dataset by dataset, that I was creating massive gaps, holes and blind spots in what it could understand. And while doing so, I was encoding all kinds of biases. Biases that reflect a limited viewpoint, limited to a single dataset -- biases that can reflect human biases found in the data, such as prejudice and stereotyping. I thought back to the evolution of the technology that brought me to where I was that day -- how the first color images were calibrated against a white woman's skin, meaning that color photography was biased against black faces. And that same bias, that same blind spot continued well into the '90s. And the same blind spot continues even today in how well we can recognize different people's faces in facial recognition technology. I though about the state of the art in research today, where we tend to limit our thinking to one dataset and one problem. And that in doing so, we were creating more blind spots and biases that the AI could further amplify.
Я осознала, что, совершенствуя искусственный интеллект, задачу за задачей, массив данных за массивом, я создала огромные бреши, дыры и слепые пятна в том, что он мог понимать. И делая это, я закодировала все возможные виды предубеждений. Предубеждений, отражающих ограниченное видение, ограниченное единым набором данных. Пробелы, которые отражают человеческие предубеждения, закодированные в данных, такие как предвзятость и стереотипы. Я подумала об эволюции технологий, которая привела меня к тому, где я оказалась тогда, — как первые цветные фотографии были откалиброваны по коже белых женщин, а значит, цветные фотографии были не приспособлены к тёмным лицам. И это же предубеждение, это же слепое пятно продолжалось и в 90-е. И это же слепое пятно мы имеем и сегодня в том, насколько хорошо мы можем узнавать разнообразные человеческие лица в технологии распознавания лиц. Я думала о новейших исследованиях, где мы склонны ограничивать свое мышление одним набором данных и одной проблемой. И делая это, мы создавали всё больше слепых пятен и предубеждений, которые ИИ смог развить дальше.
I realized then that we had to think deeply about how the technology we work on today looks in five years, in 10 years. Humans evolve slowly, with time to correct for issues in the interaction of humans and their environment. In contrast, artificial intelligence is evolving at an incredibly fast rate. And that means that it really matters that we think about this carefully right now -- that we reflect on our own blind spots, our own biases, and think about how that's informing the technology we're creating and discuss what the technology of today will mean for tomorrow.
Я поняла, что нужно больше думать о том, как технологии, с которыми мы работаем сегодня, будут выглядеть через 5 и 10 лет. Человечество эволюционирует медленно, со временем исправляя проблемы во взаимодействии людей и окружающей среды. Искусственный интеллект, напротив, эволюционирует с невероятной скоростью. И значит, действительно важно внимательно подумать прямо сейчас, что мы прячем в своих слепых пятнах, в своих предубеждениях, как это отражается на технологиях, которые мы создаём, и обсудить, что технологии настоящего будут значить для будущего.
CEOs and scientists have weighed in on what they think the artificial intelligence technology of the future will be. Stephen Hawking warns that "Artificial intelligence could end mankind." Elon Musk warns that it's an existential risk and one of the greatest risks that we face as a civilization. Bill Gates has made the point, "I don't understand why people aren't more concerned." But these views -- they're part of the story. The math, the models, the basic building blocks of artificial intelligence are something that we call access and all work with. We have open-source tools for machine learning and intelligence that we can contribute to. And beyond that, we can share our experience. We can share our experiences with technology and how it concerns us and how it excites us. We can discuss what we love. We can communicate with foresight about the aspects of technology that could be more beneficial or could be more problematic over time.
Топ-менеджеры и учёные всего мира говорят о том, каким по их мнению будет искусственный интеллект в будущем. Стивен Хокинг предостерегает: «ИИ может положить конец человечеству». Илон Маск предупреждает, что это один из величайших экзистенциальных рисков, с которым когда-либо сталкивалась наша цивилизация. Билл Гейтс недоумевает: «Я не понимаю, почему люди не обеспокоены». Но эти мнения — это только часть истории. Математика, модели, основополагающие кирпичики искусственного интеллекта — это то, что мы зовём доступом и с чем работаем. У нас есть инструменты с открытым кодом для машинного обучения и интеллекта, которыми мы готовы делиться. И кроме того, мы можем делиться своим опытом. Делиться своими знаниями о технологиях, и как это нас беспокоит, и как это нас волнует. Мы можем обсуждать, что мы любим. Мы можем общаться, предугадывая, какие аспекты технологий могут стать со временем самыми полезными, а какие — наиболее сомнительными.
If we all focus on opening up the discussion on AI with foresight towards the future, this will help create a general conversation and awareness about what AI is now, what it can become and all the things that we need to do in order to enable that outcome that best suits us. We already see and know this in the technology that we use today. We use smart phones and digital assistants and Roombas. Are they evil? Maybe sometimes. Are they beneficial? Yes, they're that, too. And they're not all the same. And there you already see a light shining on what the future holds. The future continues on from what we build and create right now. We set into motion that domino effect that carves out AI's evolutionary path.
Если мы все сосредоточимся на открытом диалоге об ИИ в перспективе будущего, это поможет создать атмосферу общей осведомлённости о том, что ИИ представляет собой сейчас, чем может стать и обо всём, что мы должны сделать, чтобы результат лучше всего нам подходил. Мы уже видим и знаем всё это о технологиях, используемых сегодня. Мы используем смартфоны, электронные помощники, роботы-пылесосы. Разве они — зло? Может быть, иногда. Они полезны? Безусловно. И все они разные. И в них вы уже видите луч света, освещающий наше будущее. Будущее начинается в том, что мы создаём и строим прямо сейчас. Мы запускаем тот эффект домино, который определит путь развития ИИ.
In our time right now, we shape the AI of tomorrow. Technology that immerses us in augmented realities bringing to life past worlds. Technology that helps people to share their experiences when they have difficulty communicating. Technology built on understanding the streaming visual worlds used as technology for self-driving cars. Technology built on understanding images and generating language, evolving into technology that helps people who are visually impaired be better able to access the visual world. And we also see how technology can lead to problems. We have technology today that analyzes physical characteristics we're born with -- such as the color of our skin or the look of our face -- in order to determine whether or not we might be criminals or terrorists. We have technology that crunches through our data, even data relating to our gender or our race, in order to determine whether or not we might get a loan. All that we see now is a snapshot in the evolution of artificial intelligence. Because where we are right now, is within a moment of that evolution. That means that what we do now will affect what happens down the line and in the future.
В нашем настоящем мы задаем форму ИИ будущего. Технологии, которые погружают нас в дополненные реальности, возвращают к жизни прошлые миры. Технологии, которые помогают людям делиться опытом, когда они испытывают трудности в общении. Технологии, основанные на понимании потоковых визуальных миров, используются для самоуправляемых машин. Технологии, основанные на понимании изображений и искусственных языков, превращаются в технологии, которые помогают слабовидящим людям получать доступ к визуальному миру. Но мы также видим, как технологии могут привести к проблемам. Сегодня у нас есть технологии, которые анализируют наши врождённые физические характеристики — такие как цвет кожи или черты лица — чтобы определить, можем ли мы быть преступниками или террористами. У нас есть технологии, анализирующие данные о нас, даже такие данные как пол или раса, чтобы определить, можем ли мы получить кредит. Всё, что мы видим сейчас, это лишь один кадр из эволюции искусственного интеллекта. Потому что то, где мы сейчас, — это всего лишь момент этой эволюции. Это означает, что всё, что мы делаем сегодня, окажет влияние на наше будущее.
If we want AI to evolve in a way that helps humans, then we need to define the goals and strategies that enable that path now. What I'd like to see is something that fits well with humans, with our culture and with the environment. Technology that aids and assists those of us with neurological conditions or other disabilities in order to make life equally challenging for everyone. Technology that works regardless of your demographics or the color of your skin. And so today, what I focus on is the technology for tomorrow and for 10 years from now.
Если мы хотим, чтобы ИИ развивался для помощи человеку, значит, мы должны определить цели и стратегии, которые зададут этот путь сейчас. Я бы хотела видеть что-то, что хорошо подходит людям, соотносится с нашей культурой и окружением. Технологии, которые помогают тем из нас, кто страдает неврологическими или другими заболеваниями, чтобы сделать жизнь одинаково трудной для всех. Технологии, работающие независимо от вашего цвета кожи или демографических характеристик. Сегодня я сосредоточена на технологиях, которые будут с нами завтра и через 10 лет.
AI can turn out in many different ways. But in this case, it isn't a self-driving car without any destination. This is the car that we are driving. We choose when to speed up and when to slow down. We choose if we need to make a turn. We choose what the AI of the future will be. There's a vast playing field of all the things that artificial intelligence can become. It will become many things. And it's up to us now, in order to figure out what we need to put in place to make sure the outcomes of artificial intelligence are the ones that will be better for all of us.
ИИ может стать чем угодно. Но в данном случае это не самоуправляемая машина без конечного пункта назначения. Этой машиной управляем мы. Мы выбираем, когда следует ускориться, а когда замедлиться. Мы выбираем, когда нам нужно повернуть. Мы выбираем, каким будет ИИ будущего. Есть бесчисленное множество вещей, которыми может стать искусственный интеллект. И он станет множеством вещей. И наша задача сегодня — выяснить, что именно мы должны вложить в ИИ, чтобы полученные результаты стали самыми лучшими для всех нас.
Thank you.
Спасибо.
(Applause)
(Аплодисменты)