How many decisions have been made about you today, or this week or this year, by artificial intelligence? I build AI for a living so, full disclosure, I'm kind of a nerd. And because I'm kind of a nerd, wherever some new news story comes out about artificial intelligence stealing all our jobs, or robots getting citizenship of an actual country, I'm the person my friends and followers message freaking out about the future.
Bạn đã ra bao nhiêu quyết định cho mình trong hôm nay rồi, hay cũng có thể là trong tuần hoặc năm nay, bằng trí tuệ nhân tạo? Tôi kiếm sống bằng cách xây dựng AI nên, nói cách khác, tôi kiểu như 1 kẻ mọt sách vậy. Và do tôi là một đứa mọt sách, nên mỗi khi có chuyện gì đó mới về việc trí tuệ nhân tạo đang lấy mất công việc của chúng ta, hay những robot được cấp quyền công dân ở 1 đất nước có thật, Tôi là kiểu người mà lũ bạn hay những người theo dõi hay gọi là kẻ hay lo về tương lai.
We see this everywhere. This media panic that our robot overlords are taking over. We could blame Hollywood for that. But in reality, that's not the problem we should be focusing on. There is a more pressing danger, a bigger risk with AI, that we need to fix first. So we are back to this question: How many decisions have been made about you today by AI? And how many of these were based on your gender, your race or your background?
Ta thấy điều này ở mọi nơi. Truyền thông sợ rằng những lãnh chúa robot đang dần chiếm lấy thế giới. Ta có thể đỗ lỗi cho Hollywood vì điều này. Nhưng trong thực tế, đó không phải là vấn đề mà ta nên tập trung vào. Còn nhiều mối nguy hơn đang đè ấp, 1 nguy cơ lớn hơn với AI, mà ta cần sửa chữa đầu tiên. Nên ta sẽ quay lại với câu hỏi này: Bạn dùng AI để ra bao nhiêu quyết định cho mình vào hôm nay? Và bao nhiêu trong số đó dựa trên giới tính, chủng tộc hay lí lịch của bạn?
Algorithms are being used all the time to make decisions about who we are and what we want. Some of the women in this room will know what I'm talking about if you've been made to sit through those pregnancy test adverts on YouTube like 1,000 times. Or you've scrolled past adverts of fertility clinics on your Facebook feed. Or in my case, Indian marriage bureaus.
Các thuật toán được dùng vào mọi lúc để đưa quyết định rằng ta là ai và ta muốn gì. Vài người phụ nữ trong phòng này sẽ biết tôi đang nói về cái gì Nếu bạn được gọi tham gia vào những quảng cáo thử thai trên YouTube tầm 1,000 lần. Hoặc bạn đã lướt qua các quảng cáo của các phòng khám hiếm muộn trên Facebook feed. Hay trong trường hợp của tôi, là văn phòng hôn nhân Ấn Độ.
(Laughter)
(Cười)
But AI isn't just being used to make decisions about what products we want to buy or which show we want to binge watch next. I wonder how you'd feel about someone who thought things like this: "A black or Latino person is less likely than a white person to pay off their loan on time." "A person called John makes a better programmer than a person called Mary." "A black man is more likely to be a repeat offender than a white man." You're probably thinking, "Wow, that sounds like a pretty sexist, racist person," right? These are some real decisions that AI has made very recently, based on the biases it has learned from us, from the humans. AI is being used to help decide whether or not you get that job interview; how much you pay for your car insurance; how good your credit score is; and even what rating you get in your annual performance review. But these decisions are all being filtered through its assumptions about our identity, our race, our gender, our age. How is that happening?
Nhưng AI không chỉ được dùng để ra quyết định về các sản phầm mà ta muốn mua hay về chương mình mà ta muốn xem tiếp. Tôi tự nhũ bạn sẽ cảm thấy thế nào khi có ai đó nghĩ về mấy thứ như này: “Một người da den hoặc Latin sẽ có khả năng trả nợ đúng hạn ít hơn so với một người da trắng.” “Một người tên John có thể là một lập trình viên tốt hơn so với một người tên Mary.” “Người da đen thì có khả năng tái phạm tội cao hơn người da trắng.” Bạn có lẽ đang nghĩ, “Wow, giọng điệu đó như là 1 kẻ phân biệt chủng tộc và giới tính,” đúng chứ? Đây là vài quyết định thật mà AI đưa ra gần đây, dựa trên những định kiến mà nó học được từ chúng ta, từ chính con người. AI đang được dùng để giúp ra quyết định rằng bạn có được gọi tới phỏng vấn; bạn trả bao nhiêu cho bảo hiểm xe hơi; điểm tín dụng của bạn tốt ra sao; và cả xếp hạng bạn đạt được trong đánh giá hiệu suất hàng năm của mình. Nhưng tất cả những quyết định này đều được sàn lọc qua những giả định của nó về danh tính, chủng tộc, giới tính, tuổi tác của ta. Sao điều đó lại xảy ra?
Now, imagine an AI is helping a hiring manager find the next tech leader in the company. So far, the manager has been hiring mostly men. So the AI learns men are more likely to be programmers than women. And it's a very short leap from there to: men make better programmers than women. We have reinforced our own bias into the AI. And now, it's screening out female candidates. Hang on, if a human hiring manager did that, we'd be outraged, we wouldn't allow it. This kind of gender discrimination is not OK. And yet somehow, AI has become above the law, because a machine made the decision. That's not it.
Giờ, tưởng tương một AI đang giúp người quản lí tuyển dụng tìm ra nhóm trưởng công nghệ kế tiếp trong công ty. Đến nay, người quản lí đã tuyển phần lớn là nam giới. Nên AI đã học ra 1 điều là nam giới làm lập trình nhiều hơn nữ. Và đó có thể xem là một bước nhảy vọt ngắn để nó cho là: nam giới giỏi lập trình hơn nữ giới. Chính ta đã tăng cường sự thiên vị của mình vào AI. Và giờ, nó đang lọc ra hết những ứng viên nữ. Mà khoan, nếu quản lí tuyển dụng là con người làm điều này, ta đang bị xúc phạm, ta không cho phép điều đó. Thể loại phân biệt giới tính này quả thật không ổn. Và bằng cách nào đó, AI đã vượt lên trên cả quy luật, bởi máy móc là thứ ra quyết định. Không phải do nó.
We are also reinforcing our bias in how we interact with AI. How often do you use a voice assistant like Siri, Alexa or even Cortana? They all have two things in common: one, they can never get my name right, and second, they are all female. They are designed to be our obedient servants, turning your lights on and off, ordering your shopping. You get male AIs too, but they tend to be more high-powered, like IBM Watson, making business decisions, Salesforce Einstein or ROSS, the robot lawyer. So poor robots, even they suffer from sexism in the workplace.
Chính ta cũng đã tăng cường định kiến của mình trong cách mà ta tương tác với AI Bạn có thường sử dụng trợ lí giọng nói như Siri, Alexa hay cả Cortana? Chúng đều có 2 điểm chung: thứ nhất, chúng không bao giờ nhớ đúng tên tôi, và thứ 2, chúng đều là nữ. Chúng được thiết kể để là những đầy tớ ngoan ngoãn của ta, bật tắt đèn của bạn, đặt hàng hộ bạn. Ta cũng có cả AI nam nữa, nhưng chúng có vẻ quyền lực hơn, như IBM Watson, dùng để ra quyết định kinh doanh, Einstein của Salesforce hay ROSS, một luật sư robot. Nên hơi tội cho robot, đến cả chúng cũng bị phân biệt giới tính nơi công sở.
(Laughter)
(Cười)
Think about how these two things combine and affect a kid growing up in today's world around AI. So they're doing some research for a school project and they Google images of CEO. The algorithm shows them results of mostly men. And now, they Google personal assistant. As you can guess, it shows them mostly females. And then they want to put on some music, and maybe order some food, and now, they are barking orders at an obedient female voice assistant. Some of our brightest minds are creating this technology today. Technology that they could have created in any way they wanted. And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary. Yay!
Hãy thử nghĩ 2 thứ này hợp lại và ảnh hưởng đến 1 đứa trẻ mới lớn trong thế giới xoay quanh AI ra sao. Nên họ đã làm vài nghiên cứu cho 1 dự án trường học và họ Google các bức ảnh của CEO. Thuật toán cho ra kết quả phần lớn là đàn ông. Và rồi, họ Google trợ lí cá nhân. Như bạn có thể đoán, nó cho ra chủ yếu là nữ. Và rồi họ muốn bật chút âm nhạc, và có thể là đặt ít đồ ăn, và giờ, họ ra lệnh cho trợ lí có giọng nữ đầy vâng lời ấy. Vài trong số các bộ óc thông minh nhất của nhân loại đang tạo ra thứ công nghệ này hiện nay. Thứ công nghệ có thể tạo ra mọi thứ mà chúng muốn. Và, họ đã chọn tạo ra nó theo phong cách của thư kí “Mad Man” những năm 50. Yay!
But OK, don't worry, this is not going to end with me telling you that we are all heading towards sexist, racist machines running the world. The good news about AI is that it is entirely within our control. We get to teach the right values, the right ethics to AI. So there are three things we can do. One, we can be aware of our own biases and the bias in machines around us. Two, we can make sure that diverse teams are building this technology. And three, we have to give it diverse experiences to learn from. I can talk about the first two from personal experience. When you work in technology and you don't look like a Mark Zuckerberg or Elon Musk, your life is a little bit difficult, your ability gets questioned.
Nhưng OK, đừng quá lo. bài nói này sẽ không dừng ở khúc mà tôi bảo rằng ta cứ thể để những cỗ máy phân biệt chủng tộc, giới tính vận hành thế giới. Tin tốt về AI là toàn bộ vẫn trong tầm kiểm soát của ta. Ta cần dạy AI về những giá trị, những phẩm chất đạo đức đúng đắn. Nên có 3 điều mà ta có thể làm. Thứ nhất, ta có thể cảnh giác về chính những định kiến của mình và định kiến của những cỗ máy quanh ta. Hai là, ta cần chắc chắn là có các đội nhóm khác nhau đang xây dựng thứ công nghệ này. Và ba là, ta cần cho chúng những trải nghiệm đa dạng để học hỏi Tôi có thể nói về 2 cái đầu tiên là nhờ kinh nghiệm cá nhân Khi bạn làm ở mảng công nghệ và bạn trông không giống Mark Zuckerberg hay Elon Musk, cuộc sống của bạn sẽ hơi khó khăn, năng lực của bạn thì bị đặt dấu hỏi.
Here's just one example. Like most developers, I often join online tech forums and share my knowledge to help others. And I've found, when I log on as myself, with my own photo, my own name, I tend to get questions or comments like this: "What makes you think you're qualified to talk about AI?" "What makes you think you know about machine learning?" So, as you do, I made a new profile, and this time, instead of my own picture, I chose a cat with a jet pack on it. And I chose a name that did not reveal my gender. You can probably guess where this is going, right? So, this time, I didn't get any of those patronizing comments about my ability and I was able to actually get some work done. And it sucks, guys. I've been building robots since I was 15, I have a few degrees in computer science, and yet, I had to hide my gender in order for my work to be taken seriously.
Đây là một ví dụ. Cũng như đa số các nhà phát triển, tôi hay tham gia các diễn đàn công nghệ và chia sẻ kiến thức để giúp đỡ mọi người. Và tôi thấy, khi tôi tham gia với tư cách là chính mình, với ảnh và tên của chính tôi, Tôi thường nhận được những câu hỏi hoặc bình luận như này: “Cô nghĩ là cô có đủ bằng cấp để nói chuyện về AI ở đây à?” “Cô nghĩ là cô biết về học máy tới mức nào?” Nên, bạn biết đó, tôi đã lập một tài khoản khác, và lần này, thay vì ảnh của chính tôi, tôi chọn ảnh 1 con mèo đeo tên lửa. Và tôi chọn 1 cái tên để không làm lộ giới tính thật. Các bạn có thể đoán được diễn biến sau đó rồi chứ hả? Nên, lần này, tôi đã không nhận được bình luận khiếm nhã nào về năng lực của mình và tôi thực sự có thể hoàn thành một số việc. Và nó khốn nạn lắm. Tôi đã tạo ra các con robot khi mới 15, tôi có ít bằng cấp về khoa học máy tính, và rồi sau, tôi phải giấu giới tính của mình để cho công việc của tôi được thực hiện nghiêm túc.
So, what's going on here? Are men just better at technology than women? Another study found that when women coders on one platform hid their gender, like myself, their code was accepted four percent more than men. So this is not about the talent. This is about an elitism in AI that says a programmer needs to look like a certain person. What we really need to do to make AI better is bring people from all kinds of backgrounds. We need people who can write and tell stories to help us create personalities of AI. We need people who can solve problems. We need people who face different challenges and we need people who can tell us what are the real issues that need fixing and help us find ways that technology can actually fix it. Because, when people from diverse backgrounds come together, when we build things in the right way, the possibilities are limitless.
Nên là, chuyện gì đang xảy ra vậy? Liêu đàn ông có giỏi về công nghệ hơn đàn bà? Một nghiên cứu khác chỉ ra rằng khi một nữ lập trình viên trên 1 nền tảng giấu giới tính thật, như tôi, mã lập trình của họ sẽ có tỉ lệ được chấp thuận cao hơn 4% so với nam. Nên vấn đề không nằm ở thiên phú. Đấy là về tinh hoa của AI nói rằng một lập trình viên phải trông giống một người nhất định. Cái mà ta thực sự cần làm để khiến AI tốt hơn chính là mang đến những người từ mọi loại bối cảnh lại với nhau. Ta cần những người có thể viết và kể những câu chuyện để giúp ta định hình tính cách cho AI. Ta cần những người có thể giải quyết vấn đề. Ta cần những người có thể đối diện với thách thức và ta cần những người có thể nói ta biết vấn đề thực sự cần khắc phục là gì và giúp ta tìm cách để công nghệ có thể thật sự khắc phục nó. Bởi, khi những người từ những bối cảnh đa dạng cùng chung tay, khi ta xây dựng những thứ theo đúng cách, thì các khả năng là vô hạn.
And that's what I want to end by talking to you about. Less racist robots, less machines that are going to take our jobs -- and more about what technology can actually achieve. So, yes, some of the energy in the world of AI, in the world of technology is going to be about what ads you see on your stream. But a lot of it is going towards making the world so much better. Think about a pregnant woman in the Democratic Republic of Congo, who has to walk 17 hours to her nearest rural prenatal clinic to get a checkup. What if she could get diagnosis on her phone, instead? Or think about what AI could do for those one in three women in South Africa who face domestic violence. If it wasn't safe to talk out loud, they could get an AI service to raise alarm, get financial and legal advice. These are all real examples of projects that people, including myself, are working on right now, using AI.
Và đó chính là cái kết mà tôi muốn nói cho các bạn. Các robot phân biệt chủng tộc hay các cỗ máy lấy mất việc của ta sẽ dần ít đi và những thành tựu của công nghệ sẽ càng nhiều thêm. Nên, đúng vậy, vài thứ năng lượng trong thế giới của AI, trong thế giới của công nghệ sẽ là về các quảng cáo mà bạn thấy trên sóng nhà mình. Nhưng rất nhiều trong số đó đang hướng tới việc làm cho thế giới tốt đẹp hơn. Thử nghĩ về một người phụ nữ mang thai ở Cộng hòa Dân chủ Congo, người phải đi bộ 17 tiếng để đến phòng khám thai gần nhất trong thôn để được chuẩn đoán. Sẽ ra sao nếu thay vào đó cô ấy được chuẩn đoán qua điện thoại? Hay nghĩ về điều mà AI có thể làm cho 1 trong 3 người phụ nữ ở Nam Phi những người phải hứng chịu bạo lực gia đình. Nếu nó không an toàn để nói thành lời, họ có thể dùng dịch vụ của AI để nâng cao cảnh giác, được tư vấn tài chính và pháp lý. Đây đều là các ví dụ thực tiễn của các dự án mà người ta, bao gồm cả tôi, đang thực hiện bây giờ, dùng đến AI.
So, I'm sure in the next couple of days there will be yet another news story about the existential risk, robots taking over and coming for your jobs.
Nên, tôi chắc là vài ngày tới sẽ có thêm một câu chuyện thời sự khác về những nguy cơ đang hiện hữu, lũ robot đang chiếm hữu và lấy dần công việc của bạn.
(Laughter)
(Cười)
And when something like that happens, I know I'll get the same messages worrying about the future. But I feel incredibly positive about this technology. This is our chance to remake the world into a much more equal place. But to do that, we need to build it the right way from the get go. We need people of different genders, races, sexualities and backgrounds. We need women to be the makers and not just the machines who do the makers' bidding. We need to think very carefully what we teach machines, what data we give them, so they don't just repeat our own past mistakes. So I hope I leave you thinking about two things. First, I hope you leave thinking about bias today. And that the next time you scroll past an advert that assumes you are interested in fertility clinics or online betting websites, that you think and remember that the same technology is assuming that a black man will reoffend. Or that a woman is more likely to be a personal assistant than a CEO. And I hope that reminds you that we need to do something about it.
Và khi chuyện như vậy xảy tới, Tôi biết là tôi cũng có 1 thông điệp tương tự là hoài lo về tương lai Nhưng tôi cảm thấy vô cùng tích cực về thứ công nghệ này. Đây là cơ hội của chúng ta để kiến tạo lại thế giới thành 1 nơi công bằng hơn. Nhưng để làm điều đó, ta cần xây dựng đúng cách ngay từ đầu. Ta cần những người với giới tính, chủng tộc, xu hướng và bối cảnh khác nhau Ta cần phụ nữ là những người kiến tạo chứ không chỉ là những cỗ máy đang tính toán sự kiến tạo. Ta cần suy nghĩ thận trọng về cái mà ta dạy máy móc, về dữ liệu mà ta đưa cho chúng, nhằm để chúng không lặp lại những sai lầm của ta trong quá khứ. Nên tôi hy vọng bạn có thể suy nghẫm về 2 thứ Thứ nhất, tôi hy vọng bạn suy nghẫm lại về định kiến ngày nay. Và rằng lần tới mà bạn lướt ngang qua 1 quảng cáo nói rằng bạn đang hứng thú với phòng khám hiếm muộn hay các trang cá cược online, bạn hãy nhớ một điều như này thứ công nghệ tương tự cũng đang giả định rằng người đàn ông da đen sẽ lại tái phạm. Hay một người phụ nữ sẽ có khả năng làm trợ lí cá nhân cao hơn là CEO. Và tôi hy vọng điều đó gợi nhắc bạn rằng ta cần làm gì đó.
And second, I hope you think about the fact that you don't need to look a certain way or have a certain background in engineering or technology to create AI, which is going to be a phenomenal force for our future. You don't need to look like a Mark Zuckerberg, you can look like me. And it is up to all of us in this room to convince the governments and the corporations to build AI technology for everyone, including the edge cases. And for us all to get education about this phenomenal technology in the future. Because if we do that, then we've only just scratched the surface of what we can achieve with AI.
Và hai là, Tôi hy vọng mọi người nghĩ về một thực tế là bạn không nhất thiết phải nhìn về 1 hướng hay nền tảng nhất định về kĩ sư hay công nghệ để tạo ra AI, thứ sẽ là một lực lượng phi thường trong tương lai của chúng ta. Bạn không cần phải trông như Mark Zuckenberg, bạn có thể trông như tôi. Và đó là nghĩa vụ của tất cả những ai trong căn phòng này nhằm thuyết phục chính phủ và các tập đoàn xây dựng công nghệ AI cho tất cả mọi người, bao gồm cả các trường hợp ngoại lệ. Và để cho tất cả chúng ta được giáo dục về thứ công nghệ hiện tượng này trong tương lai. Bởi nếu ta làm thế, thì ta chỉ mới chạm vào phần nổi của những gì ta có thể đạt được với AI.
Thank you.
Cám ơn mọi người.
(Applause)
(Vỗ tay)