How many decisions have been made about you today, or this week or this year, by artificial intelligence? I build AI for a living so, full disclosure, I'm kind of a nerd. And because I'm kind of a nerd, wherever some new news story comes out about artificial intelligence stealing all our jobs, or robots getting citizenship of an actual country, I'm the person my friends and followers message freaking out about the future.
Sizce sizin hakkınızda kaç karar alınmıştır, bugün, bu hafta veya bu yıl içinde, yapay zekâ tarafından? Benim işim yapay zekâ oluşturmak. Yani, daha da açmak gerekirse bir inek öğrenciyim. Bir inek öğrenci olduğum için de ne zaman yapay zekânın iş imkânlarımızı çalması veya robotların gerçek ülkelerden vatandaşlık alması gibi bir haber çıksa arkadaşlarımın ve takipçilerimin gelecek kaygısıyla mesaj attığı kişiyim.
We see this everywhere. This media panic that our robot overlords are taking over. We could blame Hollywood for that. But in reality, that's not the problem we should be focusing on. There is a more pressing danger, a bigger risk with AI, that we need to fix first. So we are back to this question: How many decisions have been made about you today by AI? And how many of these were based on your gender, your race or your background?
Bunu her yerde görüyoruz. Medya, robotlar yönetimi ele geçiriyor diye panik hâlinde. Bunun için Hollywood'u suçlayabiliriz. Fakat gerçek şu ki odaklanmamız gereken sorun bu değil. Yapay zekâyla ilgili düzeltmemiz gereken daha büyük bir tehlike var. Bu yüzden yine şu soruya dönüyoruz: Yapay zekâ bugün sizin hakkınızda kaç karar aldı ve bunlardan kaç tanesinde cinsiyetiniz, milliyetiniz veya geçmişiniz baz alındı?
Algorithms are being used all the time to make decisions about who we are and what we want. Some of the women in this room will know what I'm talking about if you've been made to sit through those pregnancy test adverts on YouTube like 1,000 times. Or you've scrolled past adverts of fertility clinics on your Facebook feed. Or in my case, Indian marriage bureaus.
Kim olduğumuz ve ne istediğimizle ilgili kararlar vermek için algoritmalar her zaman kullanılıyor. Buradaki kadınların bir kısmı ne demek istediğimi anlıyorlardır. YouTube'da hamilelik testi reklamlarını bin kere sonuna kadar izlediyseniz, Facebook'ta doğum kliniği reklamlarıyla karşılaştıysanız veya benim gibi Hint izdivaç servisi reklamlarıyla, ne dediğimi alıyorsunuzdur.
(Laughter)
(Gülüşmeler)
But AI isn't just being used to make decisions about what products we want to buy or which show we want to binge watch next. I wonder how you'd feel about someone who thought things like this: "A black or Latino person is less likely than a white person to pay off their loan on time." "A person called John makes a better programmer than a person called Mary." "A black man is more likely to be a repeat offender than a white man." You're probably thinking, "Wow, that sounds like a pretty sexist, racist person," right? These are some real decisions that AI has made very recently, based on the biases it has learned from us, from the humans. AI is being used to help decide whether or not you get that job interview; how much you pay for your car insurance; how good your credit score is; and even what rating you get in your annual performance review. But these decisions are all being filtered through its assumptions about our identity, our race, our gender, our age. How is that happening?
Fakat yapay zekâ sadece hangi ürünleri almak istediğimize veya hangi diziyi izlemek istediğimize karar vermek için kullanılmıyor. Şöyle düşünen biriyle ilgili ne düşünürdünüz merak ediyorum: "Siyahi veya Latin birinin, borcunu zamanında ödeme ihtimali beyaz birine göre daha düşük." "John isimli biri, Mary isimli birinden daha iyi programcılık yapar." "Siyahi bir adamın suçlu olma olasılığı beyaz bir adamdan daha fazla." "Ne kadar da cinsiyetçi ve ırkçı biri." diye düşünüyorsunuz, değil mi? Bunlar, yakın bir zamanda yapay zekânın ulaştığı gerçek kararlar. Kararların dayanağı ise biz insanlardan öğrendiği ön yargı. Yapay zekâ; iş görüşmenizin başarılı olup olmayacağına, trafik sigortasına ne kadar ödeyeceğinize, kredi puanınızın ne kadar iyi olacağına ve yıllık performans değerlendirmenizdeki puana karar vermeye yardımcı olur. Fakat tüm bu kararlar, yapay zekânın kimliğimiz, ırkımız, cinsiyetimiz ve yaşımız hakkındaki varsayım filtrelerinden geçiyor. Peki bu nasıl gerçekleşiyor?
Now, imagine an AI is helping a hiring manager find the next tech leader in the company. So far, the manager has been hiring mostly men. So the AI learns men are more likely to be programmers than women. And it's a very short leap from there to: men make better programmers than women. We have reinforced our own bias into the AI. And now, it's screening out female candidates. Hang on, if a human hiring manager did that, we'd be outraged, we wouldn't allow it. This kind of gender discrimination is not OK. And yet somehow, AI has become above the law, because a machine made the decision. That's not it.
Yapay zekânın, bir işe alım müdürünün şirketin gelecek liderini bulmasına yardım ettiğini düşünün. Şimdiye kadar müdür, çoğunlukla erkekleri işe almış. Böylece yapay zekâ, erkeklerin programcı olmalarının kadınlara göre daha olası olduğunu öğrenir ve şu sonuca ulaşması uzun sürmez: "Erkek, kadından daha iyi programcı olur." Kendi ön yargılarımızı yapay zekâya dayatıyoruz ve artık yapay zekâ kadın adayları eliyor. Bir dakika, eğer işe alım müdürü kadın adayları eleseydi haksızlığa uğramış olurduk, buna izin vermezdik. Böyle cinsiyet ayrımcılığı kabul edilemez. Ama bir şekilde yapay zekâ, yasaların önüne geçti çünkü kararı bir makine aldı. Hayır, öyle değil.
We are also reinforcing our bias in how we interact with AI. How often do you use a voice assistant like Siri, Alexa or even Cortana? They all have two things in common: one, they can never get my name right, and second, they are all female. They are designed to be our obedient servants, turning your lights on and off, ordering your shopping. You get male AIs too, but they tend to be more high-powered, like IBM Watson, making business decisions, Salesforce Einstein or ROSS, the robot lawyer. So poor robots, even they suffer from sexism in the workplace.
Yapay zekâyla etkileşimimizde ön yargılarımızı güçlendiriyoruz. Siri, Alexa veya Cortana gibi asistanları ne sıklıkta kullanıyorsunuz? Hepsinin iki ortak özelliği var. Birincisi, ismimi hiçbir zaman doğru söyleyemiyorlar. İkincisi, hepsi kadın. Bizim itaatkâr hizmetçimiz olmak için tasarlanmışlar; ışığınızı açıp kapatıyor, alışveriş siparişlerinizi veriyorlar. Tabii erkek yapay zekâlar da var. Fakat onlar daha güçlüler, örneğin IBM Watson; şirketler için kararlar veriyorlar, örneğin Satış Kadrosu Einstein; veya avukatlık yapıyorlar, mesela ROSS. Yani zavallı robotlar, onlar bile iş yerinde cinsiyetçilikle karşılaşıyor.
(Laughter)
(Gülüşmeler)
Think about how these two things combine and affect a kid growing up in today's world around AI. So they're doing some research for a school project and they Google images of CEO. The algorithm shows them results of mostly men. And now, they Google personal assistant. As you can guess, it shows them mostly females. And then they want to put on some music, and maybe order some food, and now, they are barking orders at an obedient female voice assistant. Some of our brightest minds are creating this technology today. Technology that they could have created in any way they wanted. And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary. Yay!
Bu ikisinin birleşip günümüz yapay zekâ dünyasında büyüyen çocukları nasıl etkilediğini bir düşünün. Mesela bir okul ödevi için araştırma yapıyorlar, Google'da CEO görsellerine bakıyorlar ve algoritma onlara çoğunlukla erkekleri gösteriyor. Sonra, kişisel asistan görsellerine bakıyorlar ve tahmin ettiğiniz gibi algoritma çoğunlukla kadınları gösteriyor. Daha sonra biraz müzik dinlemek veya yiyecek sipariş etmek istiyorlar ve itaatkâr kadın kişisel asistanlarına siparişlerini emrediyorlar. En parlak zekâlarımızın bazıları günümüzde bu teknolojiyi üretiyor. İstedikleri her türde üretebilecekleri teknolojiyi, 1960'ların "Mad Man"daki asistanlar tarzında üretmeyi seçiyorlar. Yaşasın!
But OK, don't worry, this is not going to end with me telling you that we are all heading towards sexist, racist machines running the world. The good news about AI is that it is entirely within our control. We get to teach the right values, the right ethics to AI. So there are three things we can do. One, we can be aware of our own biases and the bias in machines around us. Two, we can make sure that diverse teams are building this technology. And three, we have to give it diverse experiences to learn from. I can talk about the first two from personal experience. When you work in technology and you don't look like a Mark Zuckerberg or Elon Musk, your life is a little bit difficult, your ability gets questioned.
Ama endişelenmeyin, konuşmamı, cinsiyetçi ve ırkçı makinelerin yönettiği bir dünyaya doğru ilerlediğimizi söyleyerek bitirmeyeceğim. İyi haber şu ki yapay zekâ tümüyle bizim kontrolümüzde. Ona, doğru etik değerleri öğretebiliriz. Bu konuda yapabileceğimiz üç şey var. Birincisi, kendi ön yargılarımızın ve makinelerin ön yargılarının farkında olabiliriz. İkincisi, bu teknolojiyi çeşitli grupların ürettiğinden emin olabiliriz. Üçüncüsü, yapay zekânın öğrenmesi için ona çeşitli tecrübeler sunabiliriz. Kişisel tecrübelerime dayanarak ilk ikisi hakkında konuşabilirim. Teknolojiyle çalışıyorsanız ve bir Mark Zuckerberg ya da Elon Musk gibi görünmüyorsanız hayatınız biraz zor olur, yetenekleriniz sorgulanır.
Here's just one example. Like most developers, I often join online tech forums and share my knowledge to help others. And I've found, when I log on as myself, with my own photo, my own name, I tend to get questions or comments like this: "What makes you think you're qualified to talk about AI?" "What makes you think you know about machine learning?" So, as you do, I made a new profile, and this time, instead of my own picture, I chose a cat with a jet pack on it. And I chose a name that did not reveal my gender. You can probably guess where this is going, right? So, this time, I didn't get any of those patronizing comments about my ability and I was able to actually get some work done. And it sucks, guys. I've been building robots since I was 15, I have a few degrees in computer science, and yet, I had to hide my gender in order for my work to be taken seriously.
Bir örnek vereyim. Çoğu geliştirici gibi ben de sık sık çevrim içi teknoloji forumlarına katılıp başkalarına yardımcı olmak için bildiklerimi paylaşırım. Şunu anladım ki kendi fotoğrafım ve kendi ismimle oturum açtığımda şu tarz sorular ve yorumlar alıyorum: "Yapay zekâyla ilgili konuşacak vasıfta olduğunu düşündüren şey ne?" "Makine öğrenimi hakkında bilgili olduğunu düşünmeni sağlayan ne?" Sonra, kendime yeni bir profil oluşturdum, kendi fotoğrafım yerine sırtında roket olan bir kedi fotoğrafı koydum ve cinsiyetimi belli etmeyen bir isim seçtim. Bu işin nereye gittiğini tahmin ettiniz değil mi? Bu sefer yeteneğim hakkında küçümseyici yorumlar almadım ve işe yarar bir şeyler yapabildim. Bu berbat bir durum. 15 yaşından beri robot yapıyorum, birkaç bilgisayar bilimi derecem var ama yine de işimin ciddiye alınması için cinsiyetimi gizlemek zorundayım.
So, what's going on here? Are men just better at technology than women? Another study found that when women coders on one platform hid their gender, like myself, their code was accepted four percent more than men. So this is not about the talent. This is about an elitism in AI that says a programmer needs to look like a certain person. What we really need to do to make AI better is bring people from all kinds of backgrounds. We need people who can write and tell stories to help us create personalities of AI. We need people who can solve problems. We need people who face different challenges and we need people who can tell us what are the real issues that need fixing and help us find ways that technology can actually fix it. Because, when people from diverse backgrounds come together, when we build things in the right way, the possibilities are limitless.
Bu ne demek oluyor? Teknolojide erkekler kadınlardan daha mı iyi? Bir araştırmada, kadın kodlayıcılar benim gibi cinsiyetlerini gizlediklerinde kodlarının erkeklere oranla yüzde dört daha fazla kabul edildiği bulunmuş. Yani bunun yetenekle ilgisi yok. Bu, bir programcının belirli bir kişi gibi görünmesi gerektiğini söyleyen yapay zekânın elitliği. Yapay zekâyı geliştirmek için yapmamız gereken şey her türden geçmişe sahip insanları bir araya getirmek. Yapay zekâ kişilikleri oluşturmamıza yardım edecek hikâyeler yazıp anlatabilen, problem çözebilen, farklı zorluklarla yüzleşebilen, çözülmesi gereken gerçek sorunların neler olduğunu söyleyebilen ve bu sorunları teknolojinin çözmesi için yöntemler öneren kişilere ihtiyacımız var. Çünkü çeşitli geçmişe sahip insanlar bir araya geldiğine, yapılanı olması gerektiği gibi yaptığında imkânlar sınırsız olur.
And that's what I want to end by talking to you about. Less racist robots, less machines that are going to take our jobs -- and more about what technology can actually achieve. So, yes, some of the energy in the world of AI, in the world of technology is going to be about what ads you see on your stream. But a lot of it is going towards making the world so much better. Think about a pregnant woman in the Democratic Republic of Congo, who has to walk 17 hours to her nearest rural prenatal clinic to get a checkup. What if she could get diagnosis on her phone, instead? Or think about what AI could do for those one in three women in South Africa who face domestic violence. If it wasn't safe to talk out loud, they could get an AI service to raise alarm, get financial and legal advice. These are all real examples of projects that people, including myself, are working on right now, using AI.
İşte bunun hakkında konuşmak istiyorum. Daha az ırkçı robotlar, işimizi elimizden alacak daha az makine ve teknolojinin aslında neler başarabileceği hakkında daha fazla şey. Yani evet, yapay zekâ dünyasında, teknoloji dünyasında enerjinin bir kısmı yayın akışınızda hangi reklamları gördüğünüzle ilgili olacak. Ama birçoğu, dünyayı daha iyi bir yer yapmak için harcanacak. Demokratik Kongo Cumhuriyeti'nde hamile bir kadın düşünün. Kontrole gitmek için en yakın doğum kliniğine 17 saat yürümek zorunda. Bunun yerine telefonundan tanı konulabilseydi? Her üç kadından birinin aile içi şiddete maruz kaldığı Güney Afrika'yı ve yapay zekânın bu kadınlar için yapabileceklerini bir düşünün. Buna karşı ses çıkarmaları güvenli değilse tehlikeye dikkat çekmek ve finansal ve hukuki destek almak için bir yapay zekâ hizmeti edinebilirler. Bunların hepsi ben de dahil insanların, üzerinde çalıştığı gerçek projeler.
So, I'm sure in the next couple of days there will be yet another news story about the existential risk, robots taking over and coming for your jobs.
Eminim ki birkaç gün içinde varoluşsal tehlikeyle ilgili veya robotların işlerinizi elinizden alacağı hakkında yeni haberler çıkacak. (Gülüşmeler)
(Laughter)
Böyle bir şey olduğunda
And when something like that happens, I know I'll get the same messages worrying about the future. But I feel incredibly positive about this technology. This is our chance to remake the world into a much more equal place. But to do that, we need to build it the right way from the get go. We need people of different genders, races, sexualities and backgrounds. We need women to be the makers and not just the machines who do the makers' bidding. We need to think very carefully what we teach machines, what data we give them, so they don't just repeat our own past mistakes. So I hope I leave you thinking about two things. First, I hope you leave thinking about bias today. And that the next time you scroll past an advert that assumes you are interested in fertility clinics or online betting websites, that you think and remember that the same technology is assuming that a black man will reoffend. Or that a woman is more likely to be a personal assistant than a CEO. And I hope that reminds you that we need to do something about it.
gelecekle ilgili endişelenenlerden yine aynı mesajları alacağım. Ama ben teknoloji hakkında son derece olumlu hissediyorum. Bu, dünyayı çok daha eşit bir yer yapabilmemiz için bir şans. Fakat bunu yapabilmek için en temelden itibaren doğru inşa etmemiz gerekiyor. Farklı cinsiyet, ırk, cinsel yönelim ve geçmişlerden insana ihtiyacımız var. Sadece sahibinin emrini yerine getiren kadın makinelere değil üretici olan kadınlara ihtiyacımız var. Makinelere ne öğrettiğimize ve hangi verileri verdiğimize çok dikkat etmeliyiz ki geçmiş hatalarımızı tekrarlamasınlar. Umarım iki şey hakkında düşünerek buradan ayrılırsınız. Birincisi, ön yargılar. Doğum kliniklerine veya bahis sitelerine ilgi duyduğunuzu varsayan bir reklamla karşılaştığınızda umarım düşünüp hatırlarsınız ki aynı teknoloji, siyahi bir adamın tekrar suç işleyeceğini varsayıyor, bir kadının, kişisel asistan olmasının, CEO olmasından olası olduğunu varsayıyor. Umarım bu, size bir şeyler yapmamız gerektiğini hatırlatır.
And second, I hope you think about the fact that you don't need to look a certain way or have a certain background in engineering or technology to create AI, which is going to be a phenomenal force for our future. You don't need to look like a Mark Zuckerberg, you can look like me. And it is up to all of us in this room to convince the governments and the corporations to build AI technology for everyone, including the edge cases. And for us all to get education about this phenomenal technology in the future. Because if we do that, then we've only just scratched the surface of what we can achieve with AI.
İkincisi, geleceğimiz için olağanüstü bir güç olacak yapay zekâ oluşturmak için belli bir şekilde görünmenize veya mühendislik ya da teknoloji geçmişinizin olmasına gerek yok. Mark Zuckerberg gibi görünmenize gerek yok, benim gibi görünebilirsiniz. En uç durumlar da dahil herkes için yapay zekâ oluşturması için devleti ve şirketleri iknâ etmek ve geleceğin olağanüstü teknolojisiyle ilgili eğitim almak hepimizin görevi. Çünkü bunu yaptığımızda yapay zekâyla yapabileceklerimizin için ilk adımı atmış olacağız.
Thank you.
Teşekkürler.
(Applause)
(Alkışlar)