How many decisions have been made about you today, or this week or this year, by artificial intelligence? I build AI for a living so, full disclosure, I'm kind of a nerd. And because I'm kind of a nerd, wherever some new news story comes out about artificial intelligence stealing all our jobs, or robots getting citizenship of an actual country, I'm the person my friends and followers message freaking out about the future.
امروز چند تصمیم درباره شما، یا این هفته، یا امسال، توسط هوش مصنوعی گرفته شده؟ کار من ساختن هوش مصنوعی است رک بگویم از آن خورهها هستم. و چون خوره هستم، هرجایی که خبر تازهای بشنوم از اینکه هوش مصنوعی همه کارهایمان را میدزدد، یا رباتها واقعا شهروند کشور میشوند، من کسی هستم که دوستان و هواداران به او پیغام میدهند و ترسشان از آینده را عنوان میکنند.
We see this everywhere. This media panic that our robot overlords are taking over. We could blame Hollywood for that. But in reality, that's not the problem we should be focusing on. There is a more pressing danger, a bigger risk with AI, that we need to fix first. So we are back to this question: How many decisions have been made about you today by AI? And how many of these were based on your gender, your race or your background?
این را همه جا میبینیم. این ترس رسانهای که فرمانروایان رباتیک ما دارند پیروز میشوند. میشود هالیوود را بخاطرش سرزنش کرد. اما در واقع، این مشکلی نیست که باید رویش تمرکز کنیم. یک خطر مهمتر وجود دارد، خطری بزرگتر با هوش مصنوعی، که باید اول تصحیحش کرد. پس به این سوال بر میگردیم: امروز هوش مصنوعی چند تصمیم دربارهات گرفته؟ و چندتای آنها بر مبنای جنسیت، نژاد یا پیشینهات بوده؟
Algorithms are being used all the time to make decisions about who we are and what we want. Some of the women in this room will know what I'm talking about if you've been made to sit through those pregnancy test adverts on YouTube like 1,000 times. Or you've scrolled past adverts of fertility clinics on your Facebook feed. Or in my case, Indian marriage bureaus.
دائما از الگوریتمها در تصمیمگیری از اینکه که هستیم و چه میخواهیم استفاده میشود. بعضی از خانمهای حاضر در اینجا میدانند از چه صحبت میکنم اگر شما هم مجبور بودید آن تبلیغات آزمایش بارداری را روزی هزار بار روی یوتیوب ببینید. یا اگر روزی تبلیغات کلینیکهای بارورسازی را روی فیسبوک دیده بودید. یا در مورد من دفترخانههای ازدواج هندیها
(Laughter)
(خنده حضار)
But AI isn't just being used to make decisions about what products we want to buy or which show we want to binge watch next. I wonder how you'd feel about someone who thought things like this: "A black or Latino person is less likely than a white person to pay off their loan on time." "A person called John makes a better programmer than a person called Mary." "A black man is more likely to be a repeat offender than a white man." You're probably thinking, "Wow, that sounds like a pretty sexist, racist person," right? These are some real decisions that AI has made very recently, based on the biases it has learned from us, from the humans. AI is being used to help decide whether or not you get that job interview; how much you pay for your car insurance; how good your credit score is; and even what rating you get in your annual performance review. But these decisions are all being filtered through its assumptions about our identity, our race, our gender, our age. How is that happening?
اما از هوش مصنوعی فقط برای تصمیم گیری در باره اینکه چه محصولی بخریم یا کدام برنامه تلویزیونی را میببینیم استفاده نمیشود. دوست دارم احساس شما را در مورد کسانی که به این چیزها فکر کردهاند بدانم: «سیاهپوستها یا لاتین تبارها کمتر احتمال دارد تا وامشان را سر وقت تسویه کنند.» «کسی که نامش جان باشد احتمالا برنامه نویس بهتری است از کسی که نامش مِری است.» «یک مرد سیاه احتمال بیشتری دارد که یک جرم را چند بار مرتکب شود.» احتمالا فکر میکنید که، «عجب، خیلی جنسیتی، و تبعیض گرایانه است،» درسته؟ اینها واقعا تصمیمهایی است که هوش مصنوعی همین اخیرا گرفته است، بر مبنای تمایلاتی که از ما یاد گرفته، از انسانها. هوش مصنوعی برای کمک به تصمیمگیری برای انجام یک مصاحبه شغلی استفاده میشده؛ چقدر برای بیمه ماشین پرداخت میکنی؛ رتبه اعتباریات چقدر خوب است؛ و در بازبینی سالانه کارایی، چه رتبهای میگیری. اما همه این تصمیمها بر مبنای فرضیاتی در مورد هویت ما، نژاد ما، جنسیت ما و سن ما گرفته میشود. چطور اتفاق میافتد؟
Now, imagine an AI is helping a hiring manager find the next tech leader in the company. So far, the manager has been hiring mostly men. So the AI learns men are more likely to be programmers than women. And it's a very short leap from there to: men make better programmers than women. We have reinforced our own bias into the AI. And now, it's screening out female candidates. Hang on, if a human hiring manager did that, we'd be outraged, we wouldn't allow it. This kind of gender discrimination is not OK. And yet somehow, AI has become above the law, because a machine made the decision. That's not it.
فرض کنید که هوش مصنوعی میخواهد به مدیر استخدامی کمک کند تا یک راهبر فنی دیگر برای شرکت پیدا کند. تا حالا این مدیر بیشتر مردان را استخدام میکرده. پس هوش مصنوعی یاد گرفته که احتمال اینکه مردها برنامه نویس بشوند بیشتر است. و از اینجا تا مرحله بعد تنها یک قدم است: مردها از زنها برنامهنویسهای بهتری هستند. ما هوش مصنوعی را به تمایلات خودمان تجهیز کردیم. و حالا، او خودش کاندیداهای زن را حذف میکند. ببین اگر یک مسئول استخدام مرد این کار را میکرد، ناراحت میشدیم، اجازه نمیدادیم. این نوع از تبعیضهای جنسیتی درست نیست. با این همه حالا، هوش مصنوعی از قانون هم بالاتر رفته، چون ماشین تصمیم میگیرد. این تنها نیست.
We are also reinforcing our bias in how we interact with AI. How often do you use a voice assistant like Siri, Alexa or even Cortana? They all have two things in common: one, they can never get my name right, and second, they are all female. They are designed to be our obedient servants, turning your lights on and off, ordering your shopping. You get male AIs too, but they tend to be more high-powered, like IBM Watson, making business decisions, Salesforce Einstein or ROSS, the robot lawyer. So poor robots, even they suffer from sexism in the workplace.
ما در رابطه با هوش مصنوعی هم تمایلات خودمان را وارد می کنیم. معمولا چقدر از دستیارهای صوتی مانند سیری، اَلکسا یا کورتانا استفاده میکنید؟ همه آنها دو چیز مشترک دارند: اول، هیچوقت اسمم را درست نمیگویند، و دوم، همهشان زن هستند. طراحی شدهاند تا مطیع و خدمتگذارمان باشند، چراغهایتان را خاموش روشن کنند، خریدتان را سفارش بدهند. هوش مصنوعی مذکر هم داریم، اما قرار بوده تا قویتر باشند، مثل واتسون از آی بی ام، که تصمیمهای تجاری میگیرد، انیشتین از سیلزفورس، یا راس که وکیل ربات است. بیچاره رباتها، حتی آنها هم دچار تبعیض جنسی شغلی هستند.
(Laughter)
(خنده حضار)
Think about how these two things combine and affect a kid growing up in today's world around AI. So they're doing some research for a school project and they Google images of CEO. The algorithm shows them results of mostly men. And now, they Google personal assistant. As you can guess, it shows them mostly females. And then they want to put on some music, and maybe order some food, and now, they are barking orders at an obedient female voice assistant. Some of our brightest minds are creating this technology today. Technology that they could have created in any way they wanted. And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary. Yay!
حالا فکر کنید که چطور این دو با هم ترکیب میشوند و روی کودکی که در جهان اطراف هوش مصنوعی بزرگ میشود اثر میگذارند. تحقیقی روی یک پروژه در مدرسه انجام شده و آنها عکس مدیر عامل را با گوگل جستجو کردهاند. و الگوریتم به آنها بیشتر تصویر مردان را نشان داده است. بعد آنها دستیار شخصی را با گوگل جستجو کردند. و همانطور که حدس میزنید، بیشتر تصویر زنها را نشان میدهد. بعد خواستند تا موسیقی پخش کند و غذا سفارش بدهند، و حالا دارند سر دستیار صوتی زن داد میزنند. این فناوریها را بعضی از درخشانترین اندیشمندان ما خلق میکنند. فناوری که میتوانستند به هر شکلی که میخواهند خلق کنند. اما خواستند تا آن را به شکل منشیهای سریال «مَد من» دهه ۱۹۵۰ بسازند. چه عالی!
But OK, don't worry, this is not going to end with me telling you that we are all heading towards sexist, racist machines running the world. The good news about AI is that it is entirely within our control. We get to teach the right values, the right ethics to AI. So there are three things we can do. One, we can be aware of our own biases and the bias in machines around us. Two, we can make sure that diverse teams are building this technology. And three, we have to give it diverse experiences to learn from. I can talk about the first two from personal experience. When you work in technology and you don't look like a Mark Zuckerberg or Elon Musk, your life is a little bit difficult, your ability gets questioned.
اما نگران نباشید. قرار نیست صحبتم با گفتن اینکه ما به سوی ماشینهای جنسیتی، نژاد پرستانه میرویم تمام شود. خبر خوب درباره هوش مصنوعی اینکه کاملا در اختیار خودمان است. ما باید ارزشهای صحیح، اخلاقیات درست را به آن آموزش دهیم. میتوانیم سه کار انجام دهیم. اول، میشود از تمایلات خودمان و تمایلات ماشینهای اطرافمان آگاه باشیم. دوم، مطمئن شویم که گروهی با افکار متنوع این فناوری را میسازند. و سوم، باید تجربیاتی متنوع برایش ایجاد کنیم تا از آن یاد بگیرد. میتوانم در دو مورد اول از تجربه خودم برایتان بگویم. اگر کارتان فناوری باشد و شبیه مارک زاکربرگ یا ایلان ماسک نباشید، کمی زندگی برایتان سخت است، تواناییهایتان زیر سوال است.
Here's just one example. Like most developers, I often join online tech forums and share my knowledge to help others. And I've found, when I log on as myself, with my own photo, my own name, I tend to get questions or comments like this: "What makes you think you're qualified to talk about AI?" "What makes you think you know about machine learning?" So, as you do, I made a new profile, and this time, instead of my own picture, I chose a cat with a jet pack on it. And I chose a name that did not reveal my gender. You can probably guess where this is going, right? So, this time, I didn't get any of those patronizing comments about my ability and I was able to actually get some work done. And it sucks, guys. I've been building robots since I was 15, I have a few degrees in computer science, and yet, I had to hide my gender in order for my work to be taken seriously.
مثالی میآورم، مثل خیلی از برنامه نویسها، اغلب عضو انجمنهای آنلاین فناوری میشوم و اطلاعاتم را برای کمک به دیگران به اشتراک میگذارم. فهمیدم که، اگر به عنوان خودم وارد شوم، با عکس خودم، اسم خودم، معمولا سوالها یا نظراتی مثل این را میگیرم: «چرا فکر میکنی واجد شرایط صحبت در مورد هوش مصنوعی هستی؟» «چرا فکر میکنی که یادگیری ماشینی را میدانی؟» پس من هم مثل شما، پروفایل جدیدی ساختم، و این دفعه به جای عکس خودم، عکس یک گربه با موتور جت را گذاشتم. و اسمی را انتخاب کردم که جنسیتم را نشان ندهد. احتمالا فهمیدهاید که به کجا میرسم، نه؟ خوب این بار، هیچکدام از آن پیامهای از موضع بالا در مورد تواناییم را نگرفتم و واقعا توانستم کارهایی انجام دهم. و دوستان این خیلی بد است. من از ۱۵ سالگی روبات میسازم، و چندین مدرک در علوم رایانه دارم، و هنوز باید جنسیتم را مخفی کنم تا کارم جدی گرفته شود.
So, what's going on here? Are men just better at technology than women? Another study found that when women coders on one platform hid their gender, like myself, their code was accepted four percent more than men. So this is not about the talent. This is about an elitism in AI that says a programmer needs to look like a certain person. What we really need to do to make AI better is bring people from all kinds of backgrounds. We need people who can write and tell stories to help us create personalities of AI. We need people who can solve problems. We need people who face different challenges and we need people who can tell us what are the real issues that need fixing and help us find ways that technology can actually fix it. Because, when people from diverse backgrounds come together, when we build things in the right way, the possibilities are limitless.
اینجا چه خبر است؟ آیا مردان در فناوری از زنان بهترند؟ تحقیق دیگری میگوید که برنامه نویسان زنی که مثل من جنسیتشان را مخفی میکنند، برنامههایشان چهار درصد بیشتر از مردان پذیرفته میشود. پس ربطی به استعداد ندارد. مربوط به نخبهگرایی در هوش مصنوعی است که میگوید یک برنامه نویس باید شکل خاصی باشد. کاری که واقعا باید انجام دهیم تا هوش مصنوعی را بهتر کنیم این است که آدمهایی با سوابق متفاوت را کنار هم قرار دهیم. افرادی را میخواهیم که بتوانند بنویسند و داستان بگویند تا بتوانیم شخصیتهای هوش مصنوعی را بسازیم. آدمهایی میخواهیم که مشکلات را حل کنند، آدمهایی میخواهیم که با چالشهای مختلف مواجه باشند و ما به افرادی نیاز داریم تا بگویند که کدام مسائل واقعا باید حل شوند و کمک کنند تا راههایی برای حل آنها توسط فناوری پیدا کنیم. چون، وقتی افرادی با سوابق مختلف کنار هم قرار گیرند، وقتی چیزها را به شکل صحیحی بسازیم، دیگر محدودیتی نخواهیم داشت.
And that's what I want to end by talking to you about. Less racist robots, less machines that are going to take our jobs -- and more about what technology can actually achieve. So, yes, some of the energy in the world of AI, in the world of technology is going to be about what ads you see on your stream. But a lot of it is going towards making the world so much better. Think about a pregnant woman in the Democratic Republic of Congo, who has to walk 17 hours to her nearest rural prenatal clinic to get a checkup. What if she could get diagnosis on her phone, instead? Or think about what AI could do for those one in three women in South Africa who face domestic violence. If it wasn't safe to talk out loud, they could get an AI service to raise alarm, get financial and legal advice. These are all real examples of projects that people, including myself, are working on right now, using AI.
و میخواهم با صحبت در این باره تمام کنم. رباتهای نژادپرست کم شوند، ماشینهایی که کارهایمان را میگیرند باید کم شوند -- و آنهایی که فناوری واقعا برایمان میآورد بیشتر شوند. درست است بخشی از انرژی در دنیای هوش مصنوعی، در جهان فناوری صرف تبلیغاتی میشود که در این جریان میبینید. اما بیشتر آن برای بهتر شدن جهان صرف میشود. به زنی باردار در جمهوری دموکراتیک کنگو توجه کنید، که باید ۱۷ ساعت تا نزدیکترین کلینیک زنان پیاده راه برود برای معاینه. چه میشد اگر میتوانست توسط تلفنش معاینه شود؟ یا فکر کنید هوش مصنوعی میتواند چه کاری برای یکی از هر سه زن در آفریقای جنوبی که دچار خشونتهای خانوادگی هستند انجام دهد. اگر بلند صحبت کردن امن نباشد، میتوانند از هوش مصنوعی برای فعال کردن اخطار استفاده کنند، و راهنمایی مالی و قانونی بگیرند. اینها مثالهایی واقعی از پروژههایی است که افرادی، مثل خودم، با استفاده از هوش مصنوعی، همین حالا رویش کار میکنند.
So, I'm sure in the next couple of days there will be yet another news story about the existential risk, robots taking over and coming for your jobs.
مطمئنم که ظرف چند روز آینده داستانی خبری از تهدید وجودی اینکه، رباتها میآیند و کارهایتان را میگیرند خواهیم داشت.
(Laughter)
(خنده حضار)
And when something like that happens, I know I'll get the same messages worrying about the future. But I feel incredibly positive about this technology. This is our chance to remake the world into a much more equal place. But to do that, we need to build it the right way from the get go. We need people of different genders, races, sexualities and backgrounds. We need women to be the makers and not just the machines who do the makers' bidding. We need to think very carefully what we teach machines, what data we give them, so they don't just repeat our own past mistakes. So I hope I leave you thinking about two things. First, I hope you leave thinking about bias today. And that the next time you scroll past an advert that assumes you are interested in fertility clinics or online betting websites, that you think and remember that the same technology is assuming that a black man will reoffend. Or that a woman is more likely to be a personal assistant than a CEO. And I hope that reminds you that we need to do something about it.
و وقتی چیزی شبیه این اتفاق بیفتد، میدانم که همین پیام نگرانی از آینده را میگیرم. اما بینهایت در مورد این فناوری مثبت هستم. این فرصتی برای تبدیل دوباره جهان به مکانی خیلی بیشتر برابر است. اما برای این کار باید به شکلی صحیح آن را شروع کنیم. ما به افرادی با جنسیتها، نژادها و سوابق مختلف نیاز داریم. نیاز داریم تا زنان سازنده باشند نه ماشینهایی که خواستههای سازندگان را انجام میدهند. باید به دقت فکر کنیم که چه چیزی به ماشینها میآموزیم، چه اطلاعاتی به آنها میدهیم، تا آنها فقط اشتباهات گذشته ما را تکرار نکنند. امیدوارم که بعد از رفتنم شما به دو چیز فکر کنید. اول، امیدوارم که به تمایلات امروز فکر نکنید. و بار بعدی که از روی تبلیغی عبور میکنید که فکر میکند شما به کلینیکهای باروری علاقهمندید یا وبسایتهای شرط بندی، فکر کنید و بیاد آورید که همین تکنولوژی فرض میکند که مرد سیاهپوست قانونشکن است. یا اینکه زنها احتمال بیشتری دارد که دستیار شوند تا مدیرعامل. و امیدوارم که به یادتان بیاورد باید کاری در موردش انجام دهیم.
And second, I hope you think about the fact that you don't need to look a certain way or have a certain background in engineering or technology to create AI, which is going to be a phenomenal force for our future. You don't need to look like a Mark Zuckerberg, you can look like me. And it is up to all of us in this room to convince the governments and the corporations to build AI technology for everyone, including the edge cases. And for us all to get education about this phenomenal technology in the future. Because if we do that, then we've only just scratched the surface of what we can achieve with AI.
و دوم، امیدوارم در باره این واقعیت فکر کنید که نیازی نیست تا ظاهری خاص یا سابقهای ویژه در مهندسی یا فناوری داشته باشید تا هوش مصنوعی خلق کنید. که نیروی خالق العادهای برای آیندهمان خواهد بود. نیازی نیست شبیه مارک زاکربرگ باشید. میتوانید شکل من باشید. و این بر عهده همه ما در این سالن است تا دولتها و شرکتها را قانع کنیم تا فناوری هوش مصنوعی را برای همه بسازند، حتی آنهایی که مرزی هستند. و برای ما تا همه آموزش ببینند در مورد این فناوری فوقالعاده آینده. چون اگر این کار را انجام دهیم، تازه تنها به لایه سطحی چیزی رسیدهایم که با هوشمصنوعی میتوانیم انجام دهیم.
Thank you.
متشکرم.
(Applause)
(تشویق حضار)