How many decisions have been made about you today, or this week or this year, by artificial intelligence? I build AI for a living so, full disclosure, I'm kind of a nerd. And because I'm kind of a nerd, wherever some new news story comes out about artificial intelligence stealing all our jobs, or robots getting citizenship of an actual country, I'm the person my friends and followers message freaking out about the future.
Quantas decisões foram tomadas sobre vocês, hoje, ou esta semana ou este ano, pela inteligência artificial? O meu trabalho é construir IA por isso, reconheço, sou meia "nerd". E como sou um bocado "nerd", quando saem notícias, seja onde for, sobre a inteligência artificial a roubar-nos todos os empregos, ou robôs a terem cidadania de um país, eu sou a pessoa a quem os meus amigos enviam mensagens preocupados com o futuro.
We see this everywhere. This media panic that our robot overlords are taking over. We could blame Hollywood for that. But in reality, that's not the problem we should be focusing on. There is a more pressing danger, a bigger risk with AI, that we need to fix first. So we are back to this question: How many decisions have been made about you today by AI? And how many of these were based on your gender, your race or your background?
Vemos isto em todo o lado. Este pânico mediático de que os soberanos robôs estão a dominar. podíamos culpar Hollywood por isso. Mas na verdade, não é esse o problema sobre o qual nos devemos focar. Há um perigo mais eminente, um maior risco com a IA, que precisamos de resolver primeiro. Voltamos a esta questão: Quantas decisões foram tomadas hoje sobre vocês, pela IA? Quantas delas se basearam no vosso género, raça ou origens?
Algorithms are being used all the time to make decisions about who we are and what we want. Some of the women in this room will know what I'm talking about if you've been made to sit through those pregnancy test adverts on YouTube like 1,000 times. Or you've scrolled past adverts of fertility clinics on your Facebook feed. Or in my case, Indian marriage bureaus.
Os algoritmos estão sempre a ser usados para decidirem quem somos e o que queremos. Algumas das mulheres nesta sala saberão do que estou a falar se vos obrigaram a ver aqueles anúncios de testes de gravidez, no YouTube, umas 1000 vezes. Ou se já passaram por anúncios de clínicas de fertilidade na vossa página do Facebook. Ou, no meu caso, agências indianas de casamento.
(Laughter)
(Risos)
But AI isn't just being used to make decisions about what products we want to buy or which show we want to binge watch next. I wonder how you'd feel about someone who thought things like this: "A black or Latino person is less likely than a white person to pay off their loan on time." "A person called John makes a better programmer than a person called Mary." "A black man is more likely to be a repeat offender than a white man." You're probably thinking, "Wow, that sounds like a pretty sexist, racist person," right? These are some real decisions that AI has made very recently, based on the biases it has learned from us, from the humans. AI is being used to help decide whether or not you get that job interview; how much you pay for your car insurance; how good your credit score is; and even what rating you get in your annual performance review. But these decisions are all being filtered through its assumptions about our identity, our race, our gender, our age. How is that happening?
Mas a IA não está a ser usada só para tomar decisões sobre quais os produtos que queremos comprar ou que programa queremos ver de seguida. Pergunto-me o que sentiriam sobre alguém que pensasse coisas como estas: "Uma pessoa negra ou latina "tem menos probabilidade de pagar atempadamente um empréstimo." "Uma pessoa chamada João "é melhor programador do que uma pessoa chamada Maria." "É mais provável que um negro repita um crime, do que um branco." Devem estar a pensar, "Uau, isso parece uma pessoa muito sexista, racista," certo? Estas são algumas decisões reais que a IA tem tomado, muito recentemente, baseadas em preconceitos que aprendeu connosco, com os seres humanos. A IA tem sido usada para ajudar a decidir se vamos ou não à entrevista de emprego; quanto pagamos pelo seguro automóvel; quão boa é a nossa avaliação de crédito; e até a classificação que recebemos na análise do nosso desempenho anual. Mas estas decisões estão todas a ser filtradas com base nas suposições sobre a nossa identidade, raça, género, idade. Como é que isso está a acontecer?
Now, imagine an AI is helping a hiring manager find the next tech leader in the company. So far, the manager has been hiring mostly men. So the AI learns men are more likely to be programmers than women. And it's a very short leap from there to: men make better programmers than women. We have reinforced our own bias into the AI. And now, it's screening out female candidates. Hang on, if a human hiring manager did that, we'd be outraged, we wouldn't allow it. This kind of gender discrimination is not OK. And yet somehow, AI has become above the law, because a machine made the decision. That's not it.
Imaginem que a IA está a ajudar um gestor de recursos humanos a encontrar, na empresa, o próximo líder em tecnologia. Até agora, o gestor tem contratado sobretudo homens. Assim, a IA aprende que é mais provável os homens serem programadores, em vez das mulheres. E, a partir daí, é um salto muito pequeno para: "os homens são melhores programadores do que as mulheres". Reforçamos o nosso preconceito na IA. E agora está a excluir candidatas femininas. Se um recrutador humano fizesse isso, ficávamos indignados e não o permitíamos. Este tipo de discriminação de género não é correto. Apesar disso, de certa forma a IA está acima da lei, porque foi uma máquina que tomou a decisão. Não é só isso.
We are also reinforcing our bias in how we interact with AI. How often do you use a voice assistant like Siri, Alexa or even Cortana? They all have two things in common: one, they can never get my name right, and second, they are all female. They are designed to be our obedient servants, turning your lights on and off, ordering your shopping. You get male AIs too, but they tend to be more high-powered, like IBM Watson, making business decisions, Salesforce Einstein or ROSS, the robot lawyer. So poor robots, even they suffer from sexism in the workplace.
Também estamos a reforçar o nosso preconceito sobre o modo como interagimos com a IA. Quão frequentemente usam um assistente de voz como a Siri, a Alexa ou até a Cortana? Todas têm duas coisas em comum: uma, nunca conseguem acertar no meu nome, e segunda, são todas femininas. São concebidas para serem as nossas servas obedientes, ligando e desligando as nossas luzes, decidindo o que comprar. Também há IA masculinos, mas tendem a ser mais potentes, como o Watson IBM, para tomar decisões de negócios. o Força de Vendas Einstein ou ROSS, o advogado do robô. Coitados dos robôs, até eles sofrem de sexismo no trabalho.
(Laughter)
(Risos)
Think about how these two things combine and affect a kid growing up in today's world around AI. So they're doing some research for a school project and they Google images of CEO. The algorithm shows them results of mostly men. And now, they Google personal assistant. As you can guess, it shows them mostly females. And then they want to put on some music, and maybe order some food, and now, they are barking orders at an obedient female voice assistant. Some of our brightest minds are creating this technology today. Technology that they could have created in any way they wanted. And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary. Yay!
Pensem em como estas duas coisas estão ligadas e afetam uma criança a crescer num mundo rodeado de IA. Assim, se ela está a fazer uma pesquisa para um projeto escolar vai ao Google procurar imagens de diretor executivo. O algoritmo mostra resultados sobretudo de homens. Depois, pesquisa "assistente pessoal". Como podem adivinhar, mostra sobretudo mulheres. Depois, quer pôr uma música, e talvez encomendar comida, e agora está a vociferar ordens a uma voz feminina assistente e obediente. Algumas das mentes mais brilhantes estão hoje a criar esta tecnologia. Tecnologia que podiam ter criado como quisessem. E ainda assim, escolheram criá-la ao estilo dos anos 50, da secretária de "Mad Man". Pois é!
But OK, don't worry, this is not going to end with me telling you that we are all heading towards sexist, racist machines running the world. The good news about AI is that it is entirely within our control. We get to teach the right values, the right ethics to AI. So there are three things we can do. One, we can be aware of our own biases and the bias in machines around us. Two, we can make sure that diverse teams are building this technology. And three, we have to give it diverse experiences to learn from. I can talk about the first two from personal experience. When you work in technology and you don't look like a Mark Zuckerberg or Elon Musk, your life is a little bit difficult, your ability gets questioned.
Mas tudo bem, não se preocupem, isto não vai terminar comigo a dizer-vos que vamos na direção de máquinas racistas e sexistas a controlarem o mundo. As boas notícias sobre a IA é que está inteiramente sob o nosso controlo. Somos nós que temos de ensinar os valores e a ética certa à IA. Assim há três coisas que podemos fazer. Uma, podemos ter consciência dos nossos próprios preconceitos e dos preconceitos das máquinas à nossa volta. Dois, podemos garantir que são equipas diversas a construir esta tecnologia. E três, temos de lhe dar experiências diversas com as quais aprender. Posso falar sobre as primeiras duas por experiência pessoal. Quando trabalhamos em tecnologia, e não nos parecemos com o Mark Zuckerberg ou o Elon Musk a nossa vida é um bocadinho difícil, a nossa capacidade é questionada.
Here's just one example. Like most developers, I often join online tech forums and share my knowledge to help others. And I've found, when I log on as myself, with my own photo, my own name, I tend to get questions or comments like this: "What makes you think you're qualified to talk about AI?" "What makes you think you know about machine learning?" So, as you do, I made a new profile, and this time, instead of my own picture, I chose a cat with a jet pack on it. And I chose a name that did not reveal my gender. You can probably guess where this is going, right? So, this time, I didn't get any of those patronizing comments about my ability and I was able to actually get some work done. And it sucks, guys. I've been building robots since I was 15, I have a few degrees in computer science, and yet, I had to hide my gender in order for my work to be taken seriously.
Aqui está apenas um exemplo. Como a maioria dos programadores, frequentemente junto-me a fóruns "online" e partilho o meu conhecimento para ajudar outros. E percebi que, quando entro como eu própria, a minha foto e o meu nome, costumo receber perguntas ou comentários como estes: "O que te faz pensar que és qualificada para falar sobre a IA?" "O que te faz pensar que sabes sobre aprendizagem de máquinas?" Então, como se faz, criei um perfil novo e, desta vez, escolhi a foto de um gato com uma mochila a jato. E escolhi um nome que não revelasse o meu género. Conseguem adivinhar onde é que isto vai dar, certo? Mas, desta vez, não tive aqueles comentários paternalistas sobre as minhas competências e consegui fazer algum trabalho. Mas é uma seca. Construo robôs desde os 15 anos, tenho algumas graduações em ciências informáticas, e ainda assim, tive de esconder o meu género para o meu trabalho ser levado a sério.
So, what's going on here? Are men just better at technology than women? Another study found that when women coders on one platform hid their gender, like myself, their code was accepted four percent more than men. So this is not about the talent. This is about an elitism in AI that says a programmer needs to look like a certain person. What we really need to do to make AI better is bring people from all kinds of backgrounds. We need people who can write and tell stories to help us create personalities of AI. We need people who can solve problems. We need people who face different challenges and we need people who can tell us what are the real issues that need fixing and help us find ways that technology can actually fix it. Because, when people from diverse backgrounds come together, when we build things in the right way, the possibilities are limitless.
Então, o que está a acontecer aqui? Os homens são melhores do que as mulheres em tecnologia? Um outro estudo descobriu que, quando mulheres programadoras numa plataforma, escondem o seu género, como eu, o seu código é aceite 4% mais vezes do que o dos homens. Então, não se trata de talento. Trata-se de elitismo na IA que diz que um programador precisa de se parecer com uma certa pessoa. O que realmente precisamos fazer para melhorar a IA é trazer pessoas de todos os tipos de origens. Precisamos de pessoas que possam escrever e contar histórias, para nos ajudarem a criar personalidades da IA. Precisamos de pessoas que possam resolver problemas. Precisamos de pessoas que enfrentem diferentes desafios, e precisamos de pessoas que nos possam dizer quais são os problemas reais que precisam de ser resolvidos e nos ajudem a encontrar maneiras de a tecnologia os resolver. Porque, quando as pessoas de diversas origens se reúnem, quando construímos as coisas da maneira certa, as possibilidades são ilimitadas.
And that's what I want to end by talking to you about. Less racist robots, less machines that are going to take our jobs -- and more about what technology can actually achieve. So, yes, some of the energy in the world of AI, in the world of technology is going to be about what ads you see on your stream. But a lot of it is going towards making the world so much better. Think about a pregnant woman in the Democratic Republic of Congo, who has to walk 17 hours to her nearest rural prenatal clinic to get a checkup. What if she could get diagnosis on her phone, instead? Or think about what AI could do for those one in three women in South Africa who face domestic violence. If it wasn't safe to talk out loud, they could get an AI service to raise alarm, get financial and legal advice. These are all real examples of projects that people, including myself, are working on right now, using AI.
É disso que quero falar convosco. Menos sobre robôs racistas, menos sobre máquinas que vão roubar os nossos empregos e mais sobre o que a tecnologia pode realmente conseguir. Então, sim, parte da energia no mundo da IA, no mundo da tecnologia vai ser sobre quais os anúncios que podem ver na Internet. Mas muita dessa energia vai ser sobre como tornar o mundo muito melhor. Pensem numa mulher grávida na República Democrática do Congo, que tem de caminhar 17 horas até à clínica pré-natal rural mais próxima para fazer um exame de rotina. E se, em vez disso, ela pudesse obter um diagnóstico pelo telefone? Ou pensem sobre o que a IA pode fazer por uma em cada três mulheres na África do Sul que enfrenta a violência doméstica. Se não fosse seguro falar em voz alta, elas podiam obter um serviço de IA para dar o alerta, obter aconselhamento financeiro e jurídico. Estes são todos exemplos de projetos reais, em que pessoas, incluindo eu, estão agora a trabalhar, usando a IA.
So, I'm sure in the next couple of days there will be yet another news story about the existential risk, robots taking over and coming for your jobs.
Tenho a certeza que, nos próximos dias, haverá mais uma notícia sobre o risco existencial, de os robôs assumirem e roubarem os nossos empregos.
(Laughter)
(Risos)
And when something like that happens, I know I'll get the same messages worrying about the future. But I feel incredibly positive about this technology. This is our chance to remake the world into a much more equal place. But to do that, we need to build it the right way from the get go. We need people of different genders, races, sexualities and backgrounds. We need women to be the makers and not just the machines who do the makers' bidding. We need to think very carefully what we teach machines, what data we give them, so they don't just repeat our own past mistakes. So I hope I leave you thinking about two things. First, I hope you leave thinking about bias today. And that the next time you scroll past an advert that assumes you are interested in fertility clinics or online betting websites, that you think and remember that the same technology is assuming that a black man will reoffend. Or that a woman is more likely to be a personal assistant than a CEO. And I hope that reminds you that we need to do something about it.
E quando acontece algo assim, já sei que vou receber as mesmas mensagens de preocupação com o futuro. Mas sinto-me incrivelmente otimista quanto a esta tecnologia. Esta é a nossa oportunidade de refazer o mundo num lugar muito mais igualitário Mas para isso, precisamos de construí-lo da maneira certa, desde o início. Precisamos de pessoas de diferentes sexos, raças, sexualidades e origens. Precisamos que as mulheres sejam criadoras e não apenas máquinas que cumprem ordens. Precisamos de pensar com muito cuidado no que ensinamos às máquinas que dados lhes damos, para que não repitam os nossos erros do passado. Assim, espero deixar-vos a pensar sobre duas coisas. Primeiro, espero que saiam daqui a pensar nos preconceitos. E da próxima vez que passem por um anúncio que assume que estão interessadas em clínicas de fertilidade ou em páginas de apostas "online", pensem e lembrem-se que é a mesma tecnologia que está a assumir que um homem negro vai reincidir ou que é mais provável uma mulher ser uma assistente do que diretora executiva. Espero que isso vos relembre que precisamos de fazer algo sobre isto.
And second, I hope you think about the fact that you don't need to look a certain way or have a certain background in engineering or technology to create AI, which is going to be a phenomenal force for our future. You don't need to look like a Mark Zuckerberg, you can look like me. And it is up to all of us in this room to convince the governments and the corporations to build AI technology for everyone, including the edge cases. And for us all to get education about this phenomenal technology in the future. Because if we do that, then we've only just scratched the surface of what we can achieve with AI.
E em segundo lugar, espero que pensem no facto de não precisarem de parecer de uma certa maneira ou de ter experiência em engenharia ou tecnologia para criar IA, o que vai ser uma força fenomenal para o nosso futuro. Não precisam de ser parecidas com o Mark Zuckerberg, podem parecer-se comigo. E cabe a todos nós nesta sala convencer os governos e as empresas a construir a tecnologia da IA para todos, incluindo para os casos menos comuns e para que todos possamos ter educação sobre esta tecnologia fenomenal do futuro. Porque, se fizermos isso, estamos apenas a raspar a superfície do que podemos conseguir com a IA.
Thank you.
Obrigada.
(Applause)
(Aplausos)