Wie viele Entscheidungen wurden heute über Sie getroffen, oder diese Woche, dieses Jahr, von künstlicher Intelligenz? Ich entwickle beruflich KI, ja, ich gebe zu, ich bin ein Sonderling. Und weil ich ein Sonderling bin, immer wenn Nachrichten darüber veröffentlicht werden, wie künstliche Intelligenz all unsere Arbeitsplätze stielt, oder Roboter die Staatsbürgerschaft eines echten Landes erhalten, kontaktieren Freunde und Follower mich und verzweifeln über die Zukunft.
How many decisions have been made about you today, or this week or this year, by artificial intelligence? I build AI for a living so, full disclosure, I'm kind of a nerd. And because I'm kind of a nerd, wherever some new news story comes out about artificial intelligence stealing all our jobs, or robots getting citizenship of an actual country, I'm the person my friends and followers message freaking out about the future.
Wir sehen es überall. Diese Panik der Medien, dass Roboter die Weltherrschaft übernehmen. Wir könnten Hollywood die Schuld dafür geben. Aber eigentlich ist das nicht das Problem, auf das wir uns konzentrieren sollten. Es gibt eine größere Gefahr, ein höheres Risiko bei der KI, die wir zuerst lösen müssen. Also zurück zu der Frage: Wie viele Entscheidungen über Sie wurden heute von KI getroffen? Und wie viele davon basierten auf Ihrem Geschlecht, Ihrer Hautfarbe oder Herkunft?
We see this everywhere. This media panic that our robot overlords are taking over. We could blame Hollywood for that. But in reality, that's not the problem we should be focusing on. There is a more pressing danger, a bigger risk with AI, that we need to fix first. So we are back to this question: How many decisions have been made about you today by AI? And how many of these were based on your gender, your race or your background?
Algorithmen werden ständig benutzt, um Entscheidungen darüber zu treffen, wer wir sind und was wir wollen. Manche Frauen hier wissen, worüber ich spreche, wenn sie mal auf YouTube diese Schwangerschaftstest-Werbungen über sich ergehen lassen mussten, um die 1000 mal. Oder auf Facebook an Werbung für Fruchtbarkeitskliniken vorbeiscrollten, Oder, in meinem Fall, indische Ehevermittlungen.
Algorithms are being used all the time to make decisions about who we are and what we want. Some of the women in this room will know what I'm talking about if you've been made to sit through those pregnancy test adverts on YouTube like 1,000 times. Or you've scrolled past adverts of fertility clinics on your Facebook feed. Or in my case, Indian marriage bureaus.
(Gelächter)
(Laughter)
Aber KI wird nicht nur genutzt, um zu entscheiden, welche Produkte wir kaufen wollen oder welche Serie wir als nächstes verschlingen wollen. Ich frage mich, wie Sie es wohl fänden, wenn jemand Sachen denkt wie: "Eine dunkelhäutige oder lateinamerikanische Person zahlt Schulden weniger zuverlässig zurück als eine weiße Person." "Eine Person namens John ist ein besserer Programmierer als eine Person namens Mary." "Ein dunkelhäutiger Mann ist mit größerer Wahrscheinlichkeit ein Wiederholungstäter als ein weißer." Sie denken wahrscheinlich: "Wow, das klingt nach einer sehr sexistischen und rassistischen Person", oder? Dies sind einige reale Entscheidungen von KI in letzter Zeit, basierend auf Vorurteilen, die sie von uns übernahm, von den Menschen. KI wird genutzt, um bei der Entscheidung zu helfen, ob Sie zum Vorstellungsgespräch eingeladen werden; wie viel Sie für die Autoversicherung zahlen; wie gut Ihre Kreditwürdigkeit ist; und sogar wie Ihre jährliche Leistungsbeurteilung ausfällt. Aber all diese Entscheidungen werden gefiltert, durch Annahmen über unsere Identität, Hautfarbe, unser Geschlecht und Alter. Wie kann das passieren?
But AI isn't just being used to make decisions about what products we want to buy or which show we want to binge watch next. I wonder how you'd feel about someone who thought things like this: "A black or Latino person is less likely than a white person to pay off their loan on time." "A person called John makes a better programmer than a person called Mary." "A black man is more likely to be a repeat offender than a white man." You're probably thinking, "Wow, that sounds like a pretty sexist, racist person," right? These are some real decisions that AI has made very recently, based on the biases it has learned from us, from the humans. AI is being used to help decide whether or not you get that job interview; how much you pay for your car insurance; how good your credit score is; and even what rating you get in your annual performance review. But these decisions are all being filtered through its assumptions about our identity, our race, our gender, our age. How is that happening?
Stellen Sie sich vor, eine KI hilft einem Personalchef, den nächsten technischen Leiter der Firma zu finden. Bisher stellte der Personalchef vor allem Männer ein. Also lernt die KI, dass Männer eher Programmierer sind als Frauen. Von dort ist es nicht weit zu: Männer sind bessere Programmierer als Frauen. Wir haben unser eigenes Vorurteil in die KI infiltriert. Und nun werden weibliche Kandidaten aussortiert. Wenn ein menschlicher Manager dies tun würde, wären wir entsetzt, würden es nicht erlauben. Diese Form von Diskriminierung ist nicht in Ordnung. Dennoch hat sich KI irgendwie über das Gesetz gestellt, weil eine Maschine die Entscheidung traf. Aber das ist nicht alles.
Now, imagine an AI is helping a hiring manager find the next tech leader in the company. So far, the manager has been hiring mostly men. So the AI learns men are more likely to be programmers than women. And it's a very short leap from there to: men make better programmers than women. We have reinforced our own bias into the AI. And now, it's screening out female candidates. Hang on, if a human hiring manager did that, we'd be outraged, we wouldn't allow it. This kind of gender discrimination is not OK. And yet somehow, AI has become above the law, because a machine made the decision. That's not it.
Wir lassen unsere Vorurteile auch bei der Interaktion mit KI einfließen. Wie oft benutzen wir einen Sprachassistenten, wie Siri, Alexa oder Cortana? Alle haben zwei Dinge gemein: erstens, sie sprechen meinen Namen nie richtig aus und zweitens, sie sind alle weiblich. Sie wurden entwickelt, um unsere gehorsamen Dienerinnen zu sein, das Licht ein und aus zu schalten, Einkäufe zu bestellen. Es gibt auch männliche KI, aber diese sind eher leistungsstärker, wie IBM Watson, der Business-Entscheidungen trifft, Salesforce Einstein oder ROSS, der Roboter-Jurist. Arme Roboter, sogar sie sind von Sexismus am Arbeitsplatz betroffen.
We are also reinforcing our bias in how we interact with AI. How often do you use a voice assistant like Siri, Alexa or even Cortana? They all have two things in common: one, they can never get my name right, and second, they are all female. They are designed to be our obedient servants, turning your lights on and off, ordering your shopping. You get male AIs too, but they tend to be more high-powered, like IBM Watson, making business decisions, Salesforce Einstein or ROSS, the robot lawyer. So poor robots, even they suffer from sexism in the workplace.
(Gelächter)
(Laughter)
Überlegen Sie, wie diese beiden Dinge zusammenspielen und Kinder beeinflussen, die in der heutigen Welt aufwachsen, umgeben von KI. Sie führen dann ein Forschungsprojekt für die Schule durch und suchen Bilder von Vorstandsvorsitzenden auf Google. Der Algorithmus zeigt ihnen hauptsächlich welche von Männern. Dann suchen sie nach persönlichen Assistenten und finden, wie man sich denken kann, hauptsächlich Frauen. Dann wollen sie Musik hören und vielleicht Essen bestellen und geben Anweisungen an gehorsame weibliche Sprachassistentinnen. Einige unsere schlausten Köpfe entwickeln diese Technologien heute. Sie hätten sie in jeder beliebigen Form entwickeln können. Doch sie nahmen die Sekretärin aus "Mad Man" aus den 50ern als Vorbild. Hurra!
Think about how these two things combine and affect a kid growing up in today's world around AI. So they're doing some research for a school project and they Google images of CEO. The algorithm shows them results of mostly men. And now, they Google personal assistant. As you can guess, it shows them mostly females. And then they want to put on some music, and maybe order some food, and now, they are barking orders at an obedient female voice assistant. Some of our brightest minds are creating this technology today. Technology that they could have created in any way they wanted. And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary. Yay!
Aber keine Sorge, es läuft nicht darauf hinaus, dass ich Ihnen sage, dass uns sexistische, rassistische Roboter beherrschen werden. Der Vorteil von KI ist, dass wir sie kontrollieren können. Wir können sie die richtigen Werte, die richtige Ethik lehren. Wir können drei Dinge tun. Erstens können wir uns unserer eigenen Vorurteile und derer der Maschinen um uns herum bewusst sein. Zweitens können wir sicherstellen, dass bunt gemischte Teams diese Technologien entwickeln. Und drittens müssen wir ihr vielfältige Erfahrungen geben, von denen sie lernen kann. Die ersten beiden kenne ich aus persönlicher Erfahrung. Wenn man in der Technologie arbeitet, und nicht wie ein Mark Zuckerberg oder Elon Musk aussieht, ist das Leben ein wenig schwierig, Fähigkeiten werden hinterfragt.
But OK, don't worry, this is not going to end with me telling you that we are all heading towards sexist, racist machines running the world. The good news about AI is that it is entirely within our control. We get to teach the right values, the right ethics to AI. So there are three things we can do. One, we can be aware of our own biases and the bias in machines around us. Two, we can make sure that diverse teams are building this technology. And three, we have to give it diverse experiences to learn from. I can talk about the first two from personal experience. When you work in technology and you don't look like a Mark Zuckerberg or Elon Musk, your life is a little bit difficult, your ability gets questioned.
Hier nur ein Beispiel. Wie die meisten Entwickler trete ich online vielen Technik-Foren bei, um anderen mit meinem Wissen zu helfen. Ich stellte fest, wenn ich mich anmelde, mit meinem Foto, meinem Namen, werden viele Fragen oder Kommentare, wie diese, gepostet: "Wieso denkst du, dass du qualifiziert bist über KI zu sprechen?" "Wieso denkst du, dass du etwas über maschinelles Lernen weißt?" Also erstellte ich, wie viele, ein neues Profil, diesmal mit einem lustigen Katzenbild anstelle eines Bildes von mir. Ich benutzte einen Namen, der mein Geschlecht nicht verriet. Sie ahnen wahrscheinlich, wohin das führt, oder? Diesmal bekam ich keine dieser herablassenden Kommentare über meine Fähigkeiten und konnte tatsächlich produktiv arbeiten. Das kotzt mich an! Ich baue Roboter seit ich 15 bin, ich habe ein paar Abschlüsse in Informatik, und dennoch musste ich mein Geschlecht verheimlichen, um Anerkennung für meine Arbeit zu erlangen.
Here's just one example. Like most developers, I often join online tech forums and share my knowledge to help others. And I've found, when I log on as myself, with my own photo, my own name, I tend to get questions or comments like this: "What makes you think you're qualified to talk about AI?" "What makes you think you know about machine learning?" So, as you do, I made a new profile, and this time, instead of my own picture, I chose a cat with a jet pack on it. And I chose a name that did not reveal my gender. You can probably guess where this is going, right? So, this time, I didn't get any of those patronizing comments about my ability and I was able to actually get some work done. And it sucks, guys. I've been building robots since I was 15, I have a few degrees in computer science, and yet, I had to hide my gender in order for my work to be taken seriously.
Wie kann das sein? Sind Männer einfach besser in der Technologie als Frauen? Eine andere Studie fand heraus, dass, wenn Programmiererinnen ihr Geschlecht auf Plattformen vertuschten, so wie ich, war die Anerkennungsrate ihrer Codes vier Prozent höher als die von Männern. Es geht also nicht um Talent. Es geht um das Elitedenken bei KI, das besagt, dass Programmierer bestimmte Merkmale haben müssen. Was wir tun müssen, um KI zu verbessern, ist Leute unterschiedlicher Herkunft zusammen zu bringen. Wir brauchen Leute, die Geschichten schreiben und erzählen können, um zu helfen KI einen Charakter zu geben. Wir brauchen Leute, die Probleme lösen können, Leute, die sich unterschiedlichen Herausforderungen stellen können und wir brauchen Leute, die uns die wahren Probleme aufzeigen, die gelöst werden müssen, und uns helfen Wege zu finden, wie Technologie diese lösen kann. Denn wenn Menschen verschiedener Herkunft zusammenkommen, wenn wir Dinge auf die richtige Art und Weise aufbauen, dann sind die Möglichkeiten unbegrenzt.
So, what's going on here? Are men just better at technology than women? Another study found that when women coders on one platform hid their gender, like myself, their code was accepted four percent more than men. So this is not about the talent. This is about an elitism in AI that says a programmer needs to look like a certain person. What we really need to do to make AI better is bring people from all kinds of backgrounds. We need people who can write and tell stories to help us create personalities of AI. We need people who can solve problems. We need people who face different challenges and we need people who can tell us what are the real issues that need fixing and help us find ways that technology can actually fix it. Because, when people from diverse backgrounds come together, when we build things in the right way, the possibilities are limitless.
Darüber möchte ich abschließend sprechen. Weniger über rassistische Roboter oder Maschinen, die uns unsere Jobs wegnehmen -- und mehr darüber, was Technologie tatsächlich leisten kann. Ja, ein Teil der Welt der KI, der Welt der Technologie, wird sich damit beschäftigen, welche Werbung Ihnen angezeigt wird. Aber vieles wird helfen, die Welt sehr viel besser zu machen. Denken Sie an eine schwangere Frau in der Republik Kongo, die 17 Stunden zur nächstgelegenen pränatalen Klinik laufen muss, um untersucht zu werden. Was, wenn sie stattdessen die Diagnose auf ihrem Smartphone empfangen könnte? Oder denken Sie was KI tun könnte, für das Drittel der Frauen in Südafrika, das von häuslicher Gewalt betroffen ist. Wenn sie nicht öffentlich darüber sprechen könnten, könnte eine KI einen Alarm auslösen, finanzielle oder rechtliche Hilfe geben. Das sind alles Beispiele realer Projekte, an denen Leute, auch ich, aktuell mit KI arbeiten.
And that's what I want to end by talking to you about. Less racist robots, less machines that are going to take our jobs -- and more about what technology can actually achieve. So, yes, some of the energy in the world of AI, in the world of technology is going to be about what ads you see on your stream. But a lot of it is going towards making the world so much better. Think about a pregnant woman in the Democratic Republic of Congo, who has to walk 17 hours to her nearest rural prenatal clinic to get a checkup. What if she could get diagnosis on her phone, instead? Or think about what AI could do for those one in three women in South Africa who face domestic violence. If it wasn't safe to talk out loud, they could get an AI service to raise alarm, get financial and legal advice. These are all real examples of projects that people, including myself, are working on right now, using AI.
Ich bin mir sicher, dass in den nächsten Tagen eine neue Meldung kommen wird, über das existentielle Risiko, dass Roboter die Welt übernehmen und auf unsere Jobs aus sind.
So, I'm sure in the next couple of days there will be yet another news story about the existential risk, robots taking over and coming for your jobs.
(Gelächter)
(Laughter)
Und wenn das passiert, bekomme ich sicherlich die gleichen Nachrichten, mit Sorgen über die Zukunft. Aber ich stehe dieser Technologie sehr positiv gegenüber. Es ist unsere Chance, die Welt in einen gerechteren Ort zu verwandeln. Aber wir müssen sie von Grund auf richtig bilden. Wir brauchen dafür Leute verschiedener Geschlechter, Sexualität und Herkunft. Frauen müssen Produzentinnen sein und nicht nur Handlangerinnen von Produzenten. Wir müssen aufpassen, was wir Maschinen beibringen, welche Informationen wir ihnen geben, so dass sie nicht nur unsere Fehler der Vergangenheit wiederholen. Ich hoffe, dass Sie nun über zwei Dinge nachdenken werden. Erstens hoffe ich, dass Sie über Vorurteile nachdenken. Und dass, wenn Sie das nächste Mal eine Anzeige sehen, die annimmt, dass Sie an Fruchtbarkeitskliniken interessiert sind, oder an Online-Wetten, dass sie sich erinnern, dass die gleiche Technologie annimmt, dass ein schwarzer Mann Wiederholungstäter ist. Oder, dass eine Frau eher Sekretärin als Vorstandsvorsitzende ist. Ich hoffe, das erinnert Sie daran, dass wir etwas ändern müssen.
And when something like that happens, I know I'll get the same messages worrying about the future. But I feel incredibly positive about this technology. This is our chance to remake the world into a much more equal place. But to do that, we need to build it the right way from the get go. We need people of different genders, races, sexualities and backgrounds. We need women to be the makers and not just the machines who do the makers' bidding. We need to think very carefully what we teach machines, what data we give them, so they don't just repeat our own past mistakes. So I hope I leave you thinking about two things. First, I hope you leave thinking about bias today. And that the next time you scroll past an advert that assumes you are interested in fertility clinics or online betting websites, that you think and remember that the same technology is assuming that a black man will reoffend. Or that a woman is more likely to be a personal assistant than a CEO. And I hope that reminds you that we need to do something about it.
Zweitens hoffe ich, dass Sie daran denken, dass Sie keinem Ideal entsprechen müssen, oder Erfahrung im Ingenieurwesen oder Technologie haben müssen, um KI zu entwickeln, was einen unglaublichen Einfluss auf die Zukunft haben wird. Sie müssen nicht wie Mark Zuckerberg aussehen, Sie können aussehen wie ich. Es ist die Aufgabe von uns allen hier im Raum die Regierungen und Konzerne zu überzeugen KI für alle zu entwickeln, auch für die Randgruppen. Und dass wir uns zukünftig alle über diese wunderbare Technologie informieren. Denn wenn wir das tun, dann haben wir bisher nur an der Oberfläche dessen gekratzt, was wir mit KI erreichen können.
And second, I hope you think about the fact that you don't need to look a certain way or have a certain background in engineering or technology to create AI, which is going to be a phenomenal force for our future. You don't need to look like a Mark Zuckerberg, you can look like me. And it is up to all of us in this room to convince the governments and the corporations to build AI technology for everyone, including the edge cases. And for us all to get education about this phenomenal technology in the future. Because if we do that, then we've only just scratched the surface of what we can achieve with AI. Thank you.
Danke.
(Applaus)
(Applause)