How many decisions have been made about you today, or this week or this year, by artificial intelligence? I build AI for a living so, full disclosure, I'm kind of a nerd. And because I'm kind of a nerd, wherever some new news story comes out about artificial intelligence stealing all our jobs, or robots getting citizenship of an actual country, I'm the person my friends and followers message freaking out about the future.
Cât de multe decizii au fost luate astăzi pentru voi, în această săptămână sau în acest an, de către inteligența artificială? Profesia mea e să construiesc I.A. Mărturisesc că sunt puțin tocilară. Și pentru că sunt puțin tocilară, ori de câte ori apare o nouă știre despre inteligența artificială care ne fură locurile de muncă, sau despre roboții care obțin cetățenia unei țări, prietenii și persoanele care mă urmăresc mă contactează pentru că se tem de viitor.
We see this everywhere. This media panic that our robot overlords are taking over. We could blame Hollywood for that. But in reality, that's not the problem we should be focusing on. There is a more pressing danger, a bigger risk with AI, that we need to fix first. So we are back to this question: How many decisions have been made about you today by AI? And how many of these were based on your gender, your race or your background?
Vedem acest lucru peste tot. Frica mediatică că roboții ar putea prelua controlul. Am putea da vina pe Hollywood pentru asta. Dar de fapt, nu asta e problema pe care ar trebui să ne concentrăm. Există o problemă mult mai urgentă, un risc mult mai mare cu I.A., pe care trebuie să-l rezolvăm mai întâi. Să ne întoarcem la această întrebare: Cât de multe decizii au fost luate astăzi pentru voi de I.A.? Câte dintre acestea se bazează pe sexul, rasa sau mediul vostru?
Algorithms are being used all the time to make decisions about who we are and what we want. Some of the women in this room will know what I'm talking about if you've been made to sit through those pregnancy test adverts on YouTube like 1,000 times. Or you've scrolled past adverts of fertility clinics on your Facebook feed. Or in my case, Indian marriage bureaus.
Algoritmii sunt folosiți în mod constant pentru a lua decizii cu privire la cine suntem și ceea ce ne dorim. Câteva femei din această sală știu despre ce vorbesc dacă au fost nevoite să suporte reclamele la testele de sarcină de pe YouTube de cel puțin o mie de ori. Sau dacă v-au apărut reclame la clinicile de fertilitate pe Facebook. Sau în cazul meu, agențiile matrimoniale indiene.
(Laughter)
(Râsete)
But AI isn't just being used to make decisions about what products we want to buy or which show we want to binge watch next. I wonder how you'd feel about someone who thought things like this: "A black or Latino person is less likely than a white person to pay off their loan on time." "A person called John makes a better programmer than a person called Mary." "A black man is more likely to be a repeat offender than a white man." You're probably thinking, "Wow, that sounds like a pretty sexist, racist person," right? These are some real decisions that AI has made very recently, based on the biases it has learned from us, from the humans. AI is being used to help decide whether or not you get that job interview; how much you pay for your car insurance; how good your credit score is; and even what rating you get in your annual performance review. But these decisions are all being filtered through its assumptions about our identity, our race, our gender, our age. How is that happening?
Dar I.A. nu este folosită doar pentru a lua decizii în legătură cu produsele pe care vrem să le cumpărăm, sau la ce seriale să ne uităm. Mă întreb ce ați crede despre cineva care ar gândi următoarele: „O persoană neagră sau de origine latină e mai puțin probabil să achite împrumutul la timp decât o persoană albă.” „Cineva care se numește John e un programator mai bun decât cineva care se numește Maria.“ „E mai probabil ca o persoană de culoare să recidiveze decât o persoană albă.” Probabil vă gândiți: „Pare a fi o persoană cam sexistă și rasistă”, nu-i așa? Acestea sunt decizii reale pe care I.A. le-a luat recent, bazându-se pe prejudecățile pe care le-a învățat de la noi, de la oameni. I.A. e folosită pentru a hotărî dacă veți obține un interviu pentru o slujbă; cât veți plăti pentru asigurarea mașinii; cât de bună e performața creditului tău; până și ce rezultate veți avea în evaluarea anuală a performanței. Dar aceste decizii sunt toate filtrate prin ipotezele sale privind identitatea, rasa, sexul și vârsta noastră. Cum se întâmplă asta?
Now, imagine an AI is helping a hiring manager find the next tech leader in the company. So far, the manager has been hiring mostly men. So the AI learns men are more likely to be programmers than women. And it's a very short leap from there to: men make better programmers than women. We have reinforced our own bias into the AI. And now, it's screening out female candidates. Hang on, if a human hiring manager did that, we'd be outraged, we wouldn't allow it. This kind of gender discrimination is not OK. And yet somehow, AI has become above the law, because a machine made the decision. That's not it.
Imaginați-vă că I.A. ajută un manager de recrutare pentru a găsi următorul lider al companiei. Până în prezent, managerul a angajat mai ales bărbați. Așa că I.A. învață că bărbații sunt de cele mai multe ori programatori. De aici e un pas mic în a crede că bărbații sunt mai buni programatori decât femeile. Ne-am întărit propriile noastre prejudecăți în I.A. Și acum, aceasta exclude candidatele de sex feminin. Dar dacă un manager uman ar face asta, am fi revoltați, nu am permite acest lucru. Acest tip de discriminare sexuală nu e în regulă. Și totuși, într-un fel, I.A. a ajuns mai presus de lege, pentru că o mașinărie a luat decizia. Nu e numai asta.
We are also reinforcing our bias in how we interact with AI. How often do you use a voice assistant like Siri, Alexa or even Cortana? They all have two things in common: one, they can never get my name right, and second, they are all female. They are designed to be our obedient servants, turning your lights on and off, ordering your shopping. You get male AIs too, but they tend to be more high-powered, like IBM Watson, making business decisions, Salesforce Einstein or ROSS, the robot lawyer. So poor robots, even they suffer from sexism in the workplace.
Consolidăm prejudecățile noastre în modul în care interacționăm cu I.A. Cât de des utilizați un asistent vocal precum Siri, Alexa sau chiar Cortana? Toate au două lucruri în comun: unu, nu vor putea niciodată să-mi pronunțe numele corect, și doi, sunt toate de sex feminin. Sunt concepute pentru a fi servitoarele noastre supuse, vă aprind și vă sting luminile, vă comandă cumpărăturile. Sunt și I.A. de sex masculin, dar tind să fie mai împuterniciți. Cum ar fi IBM Watson, care ia decizii de afaceri, Salesforce Einstein sau ROSS, avocatul robot. Săracii roboți, chiar și ei suferă de sexism la locul de muncă.
(Laughter)
(Râsete)
Think about how these two things combine and affect a kid growing up in today's world around AI. So they're doing some research for a school project and they Google images of CEO. The algorithm shows them results of mostly men. And now, they Google personal assistant. As you can guess, it shows them mostly females. And then they want to put on some music, and maybe order some food, and now, they are barking orders at an obedient female voice assistant. Some of our brightest minds are creating this technology today. Technology that they could have created in any way they wanted. And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary. Yay!
Gândiți-vă la modul în care se combină aceste două lucruri și afectează copiii care cresc în zilele noastre înconjurați de I.A. Ei fac niște cercetări pentru un proiect școlar și caută pe Google imagini cu un director general. Algoritmul le arată rezultatele cu majoritatea bărbați. Apoi caută pe Google asistent personal. După cum puteți ghici, majoritatea sunt de sex feminin. Apoi vor să pună niște muzică, și poate să comande ceva de mâncare, iar acum, dau ordine unei ascultătoare asistente vocale de sex feminin. Unele dintre cele mai strălucitoare minți creează în prezent această tehnologie. Tehnologie pe care ar fi putut-o crea în orice fel ar fi vrut. Și totuși, ei au ales să o creeze în stilul unei secretare din anii '50. Ura!
But OK, don't worry, this is not going to end with me telling you that we are all heading towards sexist, racist machines running the world. The good news about AI is that it is entirely within our control. We get to teach the right values, the right ethics to AI. So there are three things we can do. One, we can be aware of our own biases and the bias in machines around us. Two, we can make sure that diverse teams are building this technology. And three, we have to give it diverse experiences to learn from. I can talk about the first two from personal experience. When you work in technology and you don't look like a Mark Zuckerberg or Elon Musk, your life is a little bit difficult, your ability gets questioned.
Dar bine, nu vă faceți griji, nu se va termina cu mine spunându-vă că lumea va fi condusă de mașinării sexiste și rasiste. Vestea bună despre I.A. e că se află în întregime sub controlul nostru. Trebuie să învățăm I.A. despre etica și despre valorile corecte. Există trei lucruri pe care le putem face. Unu, putem fi conștienți de propriile noastre prejudecăți și de prejudecățile mașinăriilor care ne înconjoară. Doi, ne putem asigura că diverse echipe construiesc aceste tehnologii. Și trei, trebuie să le oferim diferite experiențe din care să învețe. Pot vorbi despre primele două din experiența personală. Când lucrezi în tehnologie și nu arăți ca Mark Zuckerberg sau Elon Musk, viața ta e un pic mai dificilă, capacitățile îți sunt puse la îndoială.
Here's just one example. Like most developers, I often join online tech forums and share my knowledge to help others. And I've found, when I log on as myself, with my own photo, my own name, I tend to get questions or comments like this: "What makes you think you're qualified to talk about AI?" "What makes you think you know about machine learning?" So, as you do, I made a new profile, and this time, instead of my own picture, I chose a cat with a jet pack on it. And I chose a name that did not reveal my gender. You can probably guess where this is going, right? So, this time, I didn't get any of those patronizing comments about my ability and I was able to actually get some work done. And it sucks, guys. I've been building robots since I was 15, I have a few degrees in computer science, and yet, I had to hide my gender in order for my work to be taken seriously.
Iată un exemplu. Ca majoritatea dezvoltatorilor, particip la forumuri online de tehnologie și îmi împărtășesc cunoștințele pentru a-i ajuta pe ceilalți. Ceea ce am descoperit atunci când m-am conectat cu propria fotografie și propriul nume, au fost întrebări și comentarii de genul: „Ce te face să crezi că ești în măsură să vorbești despre I.A.?” „Ce te face să crezi că știi ceva despre învățarea automată?“ Așa că mi-am făcut un nou profil. Și de această dată, în loc de poza mea, am ales poza unei pisici cu un jetpack. Și am ales un nume care nu îmi dezvăluia sexul. Puteți ghici ce s-a întâmplat, nu? De data aceasta, nu am primit niciun comentariu arogant despre abilitățile mele și am reușit să fac câte ceva. E groaznic. Construiesc roboți de când aveam 15 ani, am câteva titluri în informatică, și totuși a trebuit să-mi ascund sexul pentru ca munca mea să fie luată în serios.
So, what's going on here? Are men just better at technology than women? Another study found that when women coders on one platform hid their gender, like myself, their code was accepted four percent more than men. So this is not about the talent. This is about an elitism in AI that says a programmer needs to look like a certain person. What we really need to do to make AI better is bring people from all kinds of backgrounds. We need people who can write and tell stories to help us create personalities of AI. We need people who can solve problems. We need people who face different challenges and we need people who can tell us what are the real issues that need fixing and help us find ways that technology can actually fix it. Because, when people from diverse backgrounds come together, when we build things in the right way, the possibilities are limitless.
Deci, ce se întâmplă? Sunt bărbații pur și simplu mai buni la tehnologie decât femeile? Un alt studiu a constatat că atunci când femeile programatoare își ascund sexul pe o platformă, ca mine, codul lor e acceptat cu 4% mai mult decât cel al bărbaților. Deci, acest lucru nu are legătură cu talentul. E vorba despre un elitism în I.A. conform căruia un programator trebuie să arate într-un fel anume. Pentru a îmbunătăți cu adevărat I.A. trebuie să implicăm oameni din diverse medii. Avem nevoie de oameni care pot scrie și spune povești pentru a putea crea personalități ale I.A. Avem nevoie de oameni care pot rezolva probleme. Avem nevoie de oameni care se confruntă cu provocări diferite și avem nevoie de oameni care să ne spună ce probleme reale trebuie rezolvate și să ne ajute să găsim modalități prin care tehnologia să le rezolve. Pentru că, atunci când oamenii din diverse medii se unesc, când construim lucrurile folosind metoda potrivită, posibilitățile sunt nelimitate.
And that's what I want to end by talking to you about. Less racist robots, less machines that are going to take our jobs -- and more about what technology can actually achieve. So, yes, some of the energy in the world of AI, in the world of technology is going to be about what ads you see on your stream. But a lot of it is going towards making the world so much better. Think about a pregnant woman in the Democratic Republic of Congo, who has to walk 17 hours to her nearest rural prenatal clinic to get a checkup. What if she could get diagnosis on her phone, instead? Or think about what AI could do for those one in three women in South Africa who face domestic violence. If it wasn't safe to talk out loud, they could get an AI service to raise alarm, get financial and legal advice. These are all real examples of projects that people, including myself, are working on right now, using AI.
Despre asta vreau să vă vorbesc în încheiere. Mai puțin despre roboți rasiști sau mașinării care ne vor lua locurile de muncă și mai mult despre ceea ce tehnologia poate realiza. Deci, da, o parte din energiile din lumea I.A., din lumea tehnologiei, vor fi direcționate spre a decide ce reclame veți vedea pe internet. Dar multe din ele vor fi folosite pentru a face lumea mai bună. Gândiți-vă la o femeie gravidă din Republica Democrată Congo, care trebuie să meargă 17 ore până la cea mai apropiată clinică prenatală pentru a face un control. Dar dacă ar putea primi în schimb un diagnostic folosind telefonul? Sau gândiți-vă ce ar putea face I.A. pentru o femeie din trei din Africa de Sud care se confruntă cu violența domestică. Dacă nu ar fi în siguranță să vorbească, acestea ar putea accesa I.A. pentru a trage un semnal de alarmă, pentru a obține consiliere financiară și juridică. Toate acestea sunt exemple de proiecte la care unele persoane, inclusiv eu, lucrează în acest moment folosind I.A.
So, I'm sure in the next couple of days there will be yet another news story about the existential risk, robots taking over and coming for your jobs.
Sunt sigură că în următoarele zile va apărea încă o știre despre riscul existențial, despre roboții care preiau controlul și care vă iau locurile de muncă.
(Laughter)
(Râsete)
And when something like that happens, I know I'll get the same messages worrying about the future. But I feel incredibly positive about this technology. This is our chance to remake the world into a much more equal place. But to do that, we need to build it the right way from the get go. We need people of different genders, races, sexualities and backgrounds. We need women to be the makers and not just the machines who do the makers' bidding. We need to think very carefully what we teach machines, what data we give them, so they don't just repeat our own past mistakes. So I hope I leave you thinking about two things. First, I hope you leave thinking about bias today. And that the next time you scroll past an advert that assumes you are interested in fertility clinics or online betting websites, that you think and remember that the same technology is assuming that a black man will reoffend. Or that a woman is more likely to be a personal assistant than a CEO. And I hope that reminds you that we need to do something about it.
Și când se va întâmpla asta, știu că voi primi aceleași mesaje exprimând teama de viitor. Dar am o părere incredibil de pozitivă despre această tehnologie. Aceasta e șansa noastră de a reconstrui lumea într-un loc mult mai egal. Dar pentru a face asta trebuie s-o construim de la început cum trebuie. Avem nevoie de oameni de sexe, rase, sexualități și din medii diferite. Avem nevoie de femei care să fie creatoare, și nu doar niște mașinării care să execute ordinele creatorilor. Trebuie să ne gândim foarte atent ce învățăm mașinăriile, ce date le oferim, astfel încât să nu repete propriile noastre greșeli din trecut. Sper că vă las două teme de gândire. În primul rând, sper să vă gândiți la prejudecățile din prezent. Și data viitoare când veți da peste o reclamă care presupune că vă interesează clinicile de fertilitate sau site-urile de pariuri online, să vă gândiți și să vă amintiți că aceeași tehnologie presupune că o persoană de culoare va recidiva. Că e mult mai probabil ca o femeie să fie asistent personal decât director general. Și sper să vă aduceți aminte că trebuie să facem ceva în legătură cu asta.
And second, I hope you think about the fact that you don't need to look a certain way or have a certain background in engineering or technology to create AI, which is going to be a phenomenal force for our future. You don't need to look like a Mark Zuckerberg, you can look like me. And it is up to all of us in this room to convince the governments and the corporations to build AI technology for everyone, including the edge cases. And for us all to get education about this phenomenal technology in the future. Because if we do that, then we've only just scratched the surface of what we can achieve with AI.
Și în al doilea rând, sper să vă gândiți la faptul că nu trebuie să arătați într-un anumit fel sau să aveți o anumită experiență în domeniul ingineriei sau tehnologiei pentru a crea I.A., ce va fi o forță fenomenală în viitorul nostru. Nu trebuie să arătați ca Mark Zuckerberg, puteți arăta ca mine. E de datoria noastră, a tuturor, să convingem guvernele și corporațiile să construiască tehnologia I.A. pentru toată lumea, inclusiv pentru minorități. Și noi toți trebuie să ne informăm în legătură cu acestă fenomenală tehnologie în viitor. Pentru că dacă facem asta, vom descoperi doar câteva lucruri pe care le putem realiza cu I.A.
Thank you.
Vă mulțumesc!
(Applause)
(Aplauze)