I work on helping computers communicate about the world around us. There are a lot of ways to do this, and I like to focus on helping computers to talk about what they see and understand. Given a scene like this, a modern computer-vision algorithm can tell you that there's a woman and there's a dog. It can tell you that the woman is smiling. It might even be able to tell you that the dog is incredibly cute. I work on this problem thinking about how humans understand and process the world. The thoughts, memories and stories that a scene like this might evoke for humans. All the interconnections of related situations. Maybe you've seen a dog like this one before, or you've spent time running on a beach like this one, and that further evokes thoughts and memories of a past vacation, past times to the beach, times spent running around with other dogs. One of my guiding principles is that by helping computers to understand what it's like to have these experiences, to understand what we share and believe and feel, then we're in a great position to start evolving computer technology in a way that's complementary with our own experiences.
Eu trabalho ajudando os computadores a falar sobre o mundo ao nosso redor. Há muitas formas de se fazer isso, e gosto de me concentrar em auxiliar os computadores a falar sobre o que veem e entendem. Em uma cena como esta, um algoritmo moderno de visão computacional pode dizer que tem uma mulher e um cachorro. Pode dizer que a mulher está sorrindo. Pode até conseguir dizer que o cachorro é incrivelmente lindo. Eu trabalho nesse problema imaginando como os humanos compreendem e processam o mundo. Os pensamentos, lembranças e histórias que uma cena como essa pode suscitar nos humanos. Todas as interconexões de situações relacionadas. Talvez vocês tenham visto um cachorro como esse antes, ou passaram tempo correndo numa praia como essa, e isso suscita mais pensamentos e lembranças de férias passadas, de tempos passados na praia ou de tempos passados correndo com outros cachorros. Um dos meus princípios fundamentais é que ao ajudar um computador a entender como é ter essas experiências, a entender o que compartilhamos, acreditamos e sentimos, estaremos num ótimo ponto para começar a desenvolver a tecnologia da computação de uma forma complementar às nossas próprias experiências.
So, digging more deeply into this, a few years ago I began working on helping computers to generate human-like stories from sequences of images. So, one day, I was working with my computer to ask it what it thought about a trip to Australia. It took a look at the pictures, and it saw a koala. It didn't know what the koala was, but it said it thought it was an interesting-looking creature. Then I shared with it a sequence of images about a house burning down. It took a look at the images and it said, "This is an amazing view! This is spectacular!" It sent chills down my spine. It saw a horrible, life-changing and life-destroying event and thought it was something positive. I realized that it recognized the contrast, the reds, the yellows, and thought it was something worth remarking on positively. And part of why it was doing this was because most of the images I had given it were positive images. That's because people tend to share positive images when they talk about their experiences. When was the last time you saw a selfie at a funeral?
Então, indo um pouco mais fundo, há poucos anos comecei a trabalhar em ajudar computadores a criar histórias humanoides a partir de sequências de imagens. Então, um dia eu estava averiguando o que meu computador achava de uma viagem à Austrália. Ele observou umas fotos e viu um coala. Ele não sabia o que era um coala, mas disse que achava que parecia uma criatura interessante. Então mostrei uma sequência de imagens de um incêndio de uma casa. Ele viu as imagens e disse: "Isso é uma visão maravilhosa! Isso é espetacular!" Senti um frio na barriga. Ele viu um evento horrível, que muda e destrói toda uma vida, e achou que fosse algo positivo. Percebi que ele reconheceu o contraste, os vermelhos, os amarelos, e achou que valesse a pena comentar positivamente. E fazia isso em partes porque a maioria das imagens que eu havia dado para ele eram imagens positivas. Isso se dá porque as pessoas costumam compartilhar imagens positivas quando falam de suas experiências. Qual foi a última vez que viram uma "selfie" em um funeral?
I realized that, as I worked on improving AI task by task, dataset by dataset, that I was creating massive gaps, holes and blind spots in what it could understand. And while doing so, I was encoding all kinds of biases. Biases that reflect a limited viewpoint, limited to a single dataset -- biases that can reflect human biases found in the data, such as prejudice and stereotyping. I thought back to the evolution of the technology that brought me to where I was that day -- how the first color images were calibrated against a white woman's skin, meaning that color photography was biased against black faces. And that same bias, that same blind spot continued well into the '90s. And the same blind spot continues even today in how well we can recognize different people's faces in facial recognition technology. I though about the state of the art in research today, where we tend to limit our thinking to one dataset and one problem. And that in doing so, we were creating more blind spots and biases that the AI could further amplify.
Eu percebi que, enquanto trabalhava no desenvolvimento de IA tarefa por tarefa, conjunto por conjunto de dados, estava criando lacunas imensas, buracos e pontos cegos no que ele podia entender. E enquanto fazia isso, eu estava codificando todo tipo de preconceitos. Preconceitos que refletem um ponto de vista limitado. Limitado a um único conjunto de dados. Preconceitos que podem refletir inclinações humanas encontradas nos dados, tais como discriminações e estereótipos. Eu pensei de novo na evolução da tecnologia que me levou até onde me encontrava naquele dia, como as primeiras imagens coloridas eram calibradas contra a pele de uma mulher branca, o que significava que a fotografia a cores tinha preconceito contra rostos negros. E aquele mesmo preconceito, aquele mesmo ponto cego continuou até a década de 1990. E o mesmo ponto cego continua ainda hoje no quão bem podemos reconhecer os rostos de pessoas diferentes com a tecnologia de reconhecimento facial. Eu pensei sobre a última geração de pesquisa atualmente, na qual tendemos a limitar nossa reflexão a um conjunto de dados e um problema. E que, fazendo isso, criamos mais pontos cegos e preconceitos que a IA pode amplificar ainda mais.
I realized then that we had to think deeply about how the technology we work on today looks in five years, in 10 years. Humans evolve slowly, with time to correct for issues in the interaction of humans and their environment. In contrast, artificial intelligence is evolving at an incredibly fast rate. And that means that it really matters that we think about this carefully right now -- that we reflect on our own blind spots, our own biases, and think about how that's informing the technology we're creating and discuss what the technology of today will mean for tomorrow.
Eu percebi que tínhamos que pensar muito sobre como a tecnologia em que hoje trabalhamos será em cinco ou dez anos. Os humanos evoluem devagar, com tempo de corrigir questões em sua interação mútua e com seu meio ambiente. Por outro lado, a inteligência artificial evolui em um ritmo incrivelmente rápido. Isso significa ser deveras importante que pensemos a respeito com cuidado agora mesmo, que reflitamos sobre nossos pontos cegos, nossos próprios preconceitos, sobre como isso está direcionando a tecnologia que estamos criando, e que debatamos o que a tecnologia de hoje significará para o amanhã.
CEOs and scientists have weighed in on what they think the artificial intelligence technology of the future will be. Stephen Hawking warns that "Artificial intelligence could end mankind." Elon Musk warns that it's an existential risk and one of the greatest risks that we face as a civilization. Bill Gates has made the point, "I don't understand why people aren't more concerned." But these views -- they're part of the story. The math, the models, the basic building blocks of artificial intelligence are something that we call access and all work with. We have open-source tools for machine learning and intelligence that we can contribute to. And beyond that, we can share our experience. We can share our experiences with technology and how it concerns us and how it excites us. We can discuss what we love. We can communicate with foresight about the aspects of technology that could be more beneficial or could be more problematic over time.
Diretores executivos e cientistas declararam o que acham do que será a inteligência artificial do futuro. Stephen Hawking avisa: "A inteligência artificial pode terminar com a raça humana". Elon Musk adverte que ela é um risco existencial e um dos maiores riscos que enfrentamos como civilização. Bill Gates ressaltou: "Não entendo por que as pessoas não estão mais preocupadas". Mas estas opiniões fazem parte da história. A matemática, os modelos, os fundamentos básicos da inteligência artificial são algo que todos podemos acessar e com o qual podemos trabalhar. Temos ferramentas de fonte aberta para aprendizado automático e inteligência para as quais podemos contribuir. E, além disso, podemos compartilhar a nossa experiência. Podemos compartilhá-las com tecnologia, e como ela nos afeta e estimula. Podemos discutir o que amamos. Podemos prever e transmitir aspectos da tecnologia que poderiam ser mais benéficos ou mais problemáticos ao longo do tempo.
If we all focus on opening up the discussion on AI with foresight towards the future, this will help create a general conversation and awareness about what AI is now, what it can become and all the things that we need to do in order to enable that outcome that best suits us. We already see and know this in the technology that we use today. We use smart phones and digital assistants and Roombas. Are they evil? Maybe sometimes. Are they beneficial? Yes, they're that, too. And they're not all the same. And there you already see a light shining on what the future holds. The future continues on from what we build and create right now. We set into motion that domino effect that carves out AI's evolutionary path.
Se todos nos concentrarmos em abrir a discussão sobre IA com previsões em direção ao futuro, isso ajudará a criar um diálogo geral e uma consciência sobre o que é a IA neste momento, o que ela pode se tornar e tudo que precisamos fazer para permitir o resultado que mais se ajuste a nós. Nós já vimos e conhecemos isso na tecnologia que usamos hoje. Usamos smartphones, assistentes digitais e "Roombas". Eles são nocivos? Às vezes, talvez. Eles são benéficos? Sim, também. E não são todos iguais. Vocês já podem ver aí uma luz brilhando sobre o que o futuro nos reserva. O futuro leva adiante o que construímos e criamos no presente. Nós colocamos em movimento aquele efeito dominó que traça a rota evolucionária da IA.
In our time right now, we shape the AI of tomorrow. Technology that immerses us in augmented realities bringing to life past worlds. Technology that helps people to share their experiences when they have difficulty communicating. Technology built on understanding the streaming visual worlds used as technology for self-driving cars. Technology built on understanding images and generating language, evolving into technology that helps people who are visually impaired be better able to access the visual world. And we also see how technology can lead to problems. We have technology today that analyzes physical characteristics we're born with -- such as the color of our skin or the look of our face -- in order to determine whether or not we might be criminals or terrorists. We have technology that crunches through our data, even data relating to our gender or our race, in order to determine whether or not we might get a loan. All that we see now is a snapshot in the evolution of artificial intelligence. Because where we are right now, is within a moment of that evolution. That means that what we do now will affect what happens down the line and in the future.
Em nosso tempo agora, moldamos a IA de amanhã. A tecnologia que nos imerge em realidades aumentadas e que traz à vida mundos passados. A tecnologia que ajuda pessoas a compartilharem suas experiências quando têm dificuldade de comunicação. A tecnologia baseada na compreensão da transmissão de mundos visuais usados como tecnologia para carros autoguiados. A tecnologia baseada na compreensão de imagens e que gera linguagem, evoluindo para a tecnologia que ajuda pessoas com deficiência visual estarem mais aptas a acessar o mundo visual. E também vemos como a tecnologia pode acarretar problemas. Nós temos tecnologia hoje que analisa características físicas com as quais nascemos, tais como a cor da pele ou a aparência do nosso rosto, a fim de determinar se podemos ser ou não criminosos ou terroristas. Temos tecnologia que analisa nossos dados, até dados relacionados ao nosso gênero ou nossa raça, a fim de determinar se podemos pegar um empréstimo ou não. Tudo o que vemos agora é um retrato na evolução da inteligência artificial. Porque onde nos encontramos agora está dentro de um momento dessa evolução. Isso significa que o que fizermos agora afetará o que acontecerá mais à frente e no futuro.
If we want AI to evolve in a way that helps humans, then we need to define the goals and strategies that enable that path now. What I'd like to see is something that fits well with humans, with our culture and with the environment. Technology that aids and assists those of us with neurological conditions or other disabilities in order to make life equally challenging for everyone. Technology that works regardless of your demographics or the color of your skin. And so today, what I focus on is the technology for tomorrow and for 10 years from now.
Se queremos que a IA evolua de um jeito que ajude os humanos, então precisamos definir as metas e as estratégias que possibilitem esse caminho agora. Eu gostaria de ver algo que se ajustasse bem aos humanos, às nossas culturas e ao nosso meio ambiente. Tecnologia que ajude e auxilie aqueles de nós com problemas neurológicos ou outras deficiências, a fim de tornar a vida igualmente desafiadora para todos. Tecnologia que funcione a despeito de seu perfil demográfico ou a cor da sua pele. Então, hoje, eu me concentro na tecnologia para o amanhã e daqui a dez anos.
AI can turn out in many different ways. But in this case, it isn't a self-driving car without any destination. This is the car that we are driving. We choose when to speed up and when to slow down. We choose if we need to make a turn. We choose what the AI of the future will be. There's a vast playing field of all the things that artificial intelligence can become. It will become many things. And it's up to us now, in order to figure out what we need to put in place to make sure the outcomes of artificial intelligence are the ones that will be better for all of us.
A IA pode acabar de várias maneiras diferentes. Mas, neste caso, não é um carro autoguiado sem destino. Esse é o carro que nós estamos dirigindo. Nós escolhemos quando aumentar ou diminuir a velocidade. Nós escolhemos se precisamos fazer uma curva. Nós escolhemos o que será a IA do futuro. Há um campo vasto de tudo que a inteligência artificial poderá se tornar. Ela se tornará muitas coisas. E depende de nós agora, a fim de descobrir o que precisamos implementar para garantir que os resultados da inteligência artificial serão os melhores para todos nós.
Thank you.
Obrigada.
(Applause)
(Aplausos)