So, I started my first job as a computer programmer in my very first year of college -- basically, as a teenager.
Mon premier travail était programmeuse informatique durant ma première année à l'université -- quand j'étais adolescente.
Soon after I started working, writing software in a company, a manager who worked at the company came down to where I was, and he whispered to me, "Can he tell if I'm lying?" There was nobody else in the room.
Peu après avoir commencé à écrire des programmes en entreprise, un responsable de l'entreprise est venu me voir et m'a murmuré : « Peut-il dire si je mens ? » Il n'y avait personne d'autre dans la pièce.
"Can who tell if you're lying? And why are we whispering?"
« Qui peut dire si vous mentez ? Et pourquoi chuchotez-vous ? »
The manager pointed at the computer in the room. "Can he tell if I'm lying?" Well, that manager was having an affair with the receptionist.
Le responsable a pointé du doigt l'ordinateur dans la pièce. « Peut-il dire si je mens ? » Ce responsable avait une aventure avec la réceptionniste.
(Laughter)
(Rires)
And I was still a teenager. So I whisper-shouted back to him, "Yes, the computer can tell if you're lying."
J'étais toujours adolescente. J'ai lui ai murmuré-crié : « Oui, l'ordinateur peut dire si vous mentez. »
(Laughter)
(Rires)
Well, I laughed, but actually, the laugh's on me. Nowadays, there are computational systems that can suss out emotional states and even lying from processing human faces. Advertisers and even governments are very interested.
J'ai rigolé, mais c'est de moi qu'on peut se moquer. Il y a aujourd'hui des systèmes informatiques qui peuvent repérer les états émotionnels et les mensonges en traitant les informations du visage humain. Les publicitaires et les gouvernements sont très intéressés.
I had become a computer programmer because I was one of those kids crazy about math and science. But somewhere along the line I'd learned about nuclear weapons, and I'd gotten really concerned with the ethics of science. I was troubled. However, because of family circumstances, I also needed to start working as soon as possible. So I thought to myself, hey, let me pick a technical field where I can get a job easily and where I don't have to deal with any troublesome questions of ethics. So I picked computers.
J'étais devenue programmeuse informatique car j'étais l'une de ces gamines folles de maths et de sciences. Mais, en chemin, j'avais découvert les armes nucléaires et je me sentais très concernée par l'éthique de la science. J'étais troublée. Cependant, du fait de circonstances familiales, je devais aussi commencer à travailler aussi vite que possible. Je me suis dit : « Choisis un domaine technique où tu peux avoir un emploi facilement et où je n'ai pas à gérer des questions d'éthique difficiles. » J'ai donc choisi l'informatique.
(Laughter)
(Rires)
Well, ha, ha, ha! All the laughs are on me. Nowadays, computer scientists are building platforms that control what a billion people see every day. They're developing cars that could decide who to run over. They're even building machines, weapons, that might kill human beings in war. It's ethics all the way down.
Eh bien, ah ah ah ! On peut se moquer de moi. Aujourd'hui, les informaticiens construisent des plateformes qui contrôlent chaque jour ce que voient un milliard de personnes. Ils développent des voitures pouvant décider qui écraser. Ils construisent même des machines, des armes qui pourraient tuer des êtres humains dans une guerre. Il y a de l'éthique partout.
Machine intelligence is here. We're now using computation to make all sort of decisions, but also new kinds of decisions. We're asking questions to computation that have no single right answers, that are subjective and open-ended and value-laden.
L'intelligence artificielle est arrivée. Nous utilisons l'informatique pour prendre toutes sortes de décisions, y compris de nouvelles décisions. Nous posons à l'informatique des questions auxquelles il n'y a pas d'unique bonne réponse, qui sont subjectives, ouvertes et reposent sur des valeurs.
We're asking questions like, "Who should the company hire?" "Which update from which friend should you be shown?" "Which convict is more likely to reoffend?" "Which news item or movie should be recommended to people?"
Nous posons des questions comme : « Qui devrait-on embaucher ? » « Quelles nouvelles de quel ami devrait-on vous montrer ? » « Quel prisonnier va probablement récidiver ? » « Quel nouvel objet ou film devrait être recommandé aux gens ? »
Look, yes, we've been using computers for a while, but this is different. This is a historical twist, because we cannot anchor computation for such subjective decisions the way we can anchor computation for flying airplanes, building bridges, going to the moon. Are airplanes safer? Did the bridge sway and fall? There, we have agreed-upon, fairly clear benchmarks, and we have laws of nature to guide us. We have no such anchors and benchmarks for decisions in messy human affairs.
Cela fait un certain temps que nous utilisons des ordinateurs mais c'est différent. C'est un changement historique : car on ne peut pas utiliser l'informatique pour des décisions si subjectives comme on utilise l'informatique pour piloter un avion, construire un pont, aller sur la Lune. Les avions sont-ils plus sûrs ? Un pont a-t-il bougé et est tombé ? Là, nous nous accordons sur des repères assez clairs et les lois de la nature nous guident. Nous n'avons pas de tels ancres et repères pour les décisions des affaires complexes humaines.
To make things more complicated, our software is getting more powerful, but it's also getting less transparent and more complex. Recently, in the past decade, complex algorithms have made great strides. They can recognize human faces. They can decipher handwriting. They can detect credit card fraud and block spam and they can translate between languages. They can detect tumors in medical imaging. They can beat humans in chess and Go.
Pour compliquer encore les choses, nos logiciels gagnent en puissance mais sont aussi moins transparents et plus complexes. Récemment, les dix dernières années, les algorithmes complexes ont fait de grandes avancées. Ils peuvent reconnaître les visages humains, déchiffrer l'écriture, détecter la fraude à la carte bancaire, bloquer le spam, traduire d'une langue à une autre, détecter les tumeurs en imagerie médicale, battre les humains aux échecs et au go.
Much of this progress comes from a method called "machine learning." Machine learning is different than traditional programming, where you give the computer detailed, exact, painstaking instructions. It's more like you take the system and you feed it lots of data, including unstructured data, like the kind we generate in our digital lives. And the system learns by churning through this data. And also, crucially, these systems don't operate under a single-answer logic. They don't produce a simple answer; it's more probabilistic: "This one is probably more like what you're looking for."
Beaucoup de ces progrès découlent d'une méthode : « l'apprentissage de la machine ». Cette méthode est différente de la programmation traditionnelle où l'on donne des instructions détaillées, exactes, méticuleuses à l'ordinateur. Cela ressemble plus à un système nourri de données, dont des données non structurées, comme celles générées par notre vie numérique. Le système apprend en parcourant ces données. Et aussi, c'est crucial, ces systèmes n'utilisent pas la logique de la réponse unique. Ils ne produisent pas une seule réponse, c'est plus probabiliste : « Celle-ci est probablement plus proche de ce que vous cherchez. »
Now, the upside is: this method is really powerful. The head of Google's AI systems called it, "the unreasonable effectiveness of data." The downside is, we don't really understand what the system learned. In fact, that's its power. This is less like giving instructions to a computer; it's more like training a puppy-machine-creature we don't really understand or control. So this is our problem. It's a problem when this artificial intelligence system gets things wrong. It's also a problem when it gets things right, because we don't even know which is which when it's a subjective problem. We don't know what this thing is thinking.
L'avantage est que cette méthode est très puissante. Le chef de l'IA chez Google l'a appelée : « l'efficacité irraisonnable des données ». L'inconvénient est : nous ne comprenons pas vraiment ce que le système a appris. En fait, c'est sa force. C'est moins comme donner des instructions à un ordinateur ; plus comme entraîner une machine-chiot-créature que nous ne comprenons ni ne contrôlons vraiment. Voilà notre problème. C'est un problème quand cette intelligence artificielle comprend mal les choses. C'est aussi un problème quand elle comprend les choses car on ne sait pas différencier ces situations pour un problème subjectif. Nous ignorons ce que pense cette chose.
So, consider a hiring algorithm -- a system used to hire people, using machine-learning systems. Such a system would have been trained on previous employees' data and instructed to find and hire people like the existing high performers in the company. Sounds good. I once attended a conference that brought together human resources managers and executives, high-level people, using such systems in hiring. They were super excited. They thought that this would make hiring more objective, less biased, and give women and minorities a better shot against biased human managers.
Considérez un algorithme d'embauche -- un système utilisé pour embaucher des gens en utilisant l'apprentissage des machines. Un tel système aurait été entraîné sur les données des employés et chargé de trouver et embaucher des gens similaires à ceux les plus performants de l'entreprise. Cela semble bien. Une fois, j'ai assisté à une conférence qui réunissait responsables des ressources humaines et des dirigeants, des gens de haut niveau, avec de tels systèmes d'embauche. Ils étaient très excités. Ils pensaient que cela rendrait l'embauche plus objective, moins biaisée et donnerait plus de chances aux femmes et minorités face à des responsables RH partiaux.
And look -- human hiring is biased. I know. I mean, in one of my early jobs as a programmer, my immediate manager would sometimes come down to where I was really early in the morning or really late in the afternoon, and she'd say, "Zeynep, let's go to lunch!" I'd be puzzled by the weird timing. It's 4pm. Lunch? I was broke, so free lunch. I always went. I later realized what was happening. My immediate managers had not confessed to their higher-ups that the programmer they hired for a serious job was a teen girl who wore jeans and sneakers to work. I was doing a good job, I just looked wrong and was the wrong age and gender.
L'embauche humaine est partiale. Je sais. Dans l'un de mes premiers postes en tant que programmeuse, ma responsable directe venait parfois me voir très tôt le matin ou très tard l'après-midi et elle disait : « Zeinep, allons déjeuner ! » L'heure étrange me laissait perplexe. Il est 16h, déjeuner ? J'étais fauchée, le déjeuner était gratuit donc j'y allais toujours. Plus tard, j'ai réalisé ce qu'il se passait. Mes responsables directs n'avaient pas dit à leurs responsables qu'ils avaient embauché pour un travail sérieux une adolescente qui portait un jeans et des baskets au travail. Je faisais du bon travail mais mon allure clochait, j'avais les mauvais âge et sexe.
So hiring in a gender- and race-blind way certainly sounds good to me. But with these systems, it is more complicated, and here's why: Currently, computational systems can infer all sorts of things about you from your digital crumbs, even if you have not disclosed those things. They can infer your sexual orientation, your personality traits, your political leanings. They have predictive power with high levels of accuracy. Remember -- for things you haven't even disclosed. This is inference.
Embaucher d'une manière aveugle à la couleur et au sexe me semble très bien. Mais avec ces systèmes, c'est plus compliqué, voici pourquoi : actuellement, les systèmes informatiques peuvent déduire beaucoup vous concernant grâce à vos miettes numériques, même si vous n'avez rien révélé. Ils peuvent déduire votre orientation sexuelle, vos traits de personnalité, vos tendances politiques. Ils ont des pouvoirs prédictifs ayant une exactitude élevée. Pour des choses que vous n'avez pas révélées. C'est de la déduction.
I have a friend who developed such computational systems to predict the likelihood of clinical or postpartum depression from social media data. The results are impressive. Her system can predict the likelihood of depression months before the onset of any symptoms -- months before. No symptoms, there's prediction. She hopes it will be used for early intervention. Great! But now put this in the context of hiring.
J'ai une amie qui a développé de tels systèmes informatiques pour prévoir la probabilité d'une dépression clinique ou post-partum grâce à vos médias sociaux. Les résultats sont impressionnants. Son système peut prévoir les risques de dépression des mois avant l'apparition de tout symptôme -- des mois avant. Aucun symptôme mais une prédiction. Elle espère que cela sera utilisé pour des interventions précoces, super ! Mais mettez cela dans le contexte de l'embauche.
So at this human resources managers conference, I approached a high-level manager in a very large company, and I said to her, "Look, what if, unbeknownst to you, your system is weeding out people with high future likelihood of depression? They're not depressed now, just maybe in the future, more likely. What if it's weeding out women more likely to be pregnant in the next year or two but aren't pregnant now? What if it's hiring aggressive people because that's your workplace culture?" You can't tell this by looking at gender breakdowns. Those may be balanced. And since this is machine learning, not traditional coding, there is no variable there labeled "higher risk of depression," "higher risk of pregnancy," "aggressive guy scale." Not only do you not know what your system is selecting on, you don't even know where to begin to look. It's a black box. It has predictive power, but you don't understand it.
Lors de cette conférence de responsables des ressources humaines, j'ai approché une responsable d'une très grande entreprise et lui ai dit : « Et si, à votre insu, votre système éliminait les gens avec de forts risques de dépression ? Ils ne sont pas en dépression mais ont plus de risques pour l'avenir. Et s'il éliminait les femmes ayant plus de chances d'être enceintes dans un ou deux ans mais ne le sont pas actuellement ? Et s'il embauchait des gens agressifs car c'est la culture de l'entreprise ? » On ne peut pas le dire en regardant la répartition par sexe. Cela peut être équilibré. Puisque c'est de l'apprentissage de la machine, non du code traditionnel, il n'y a pas de variables appelées « plus de risques de dépression », « plus de risques d'être enceinte », « échelle d'agressivité d'un mec ». Non seulement vous ignorez ce que votre système utilise pour choisir, mais vous ignorez où chercher. C'est une boîte noire. Elle a un pouvoir prédictif mais vous ne le comprenez pas.
"What safeguards," I asked, "do you have to make sure that your black box isn't doing something shady?" She looked at me as if I had just stepped on 10 puppy tails.
J'ai demandé : « Quelle garantie avez-vous pour vous assurer que votre boîte noire ne fait rien de louche ? » Elle m'a regardée comme si je venais de l'insulter.
(Laughter)
(Rires)
She stared at me and she said, "I don't want to hear another word about this." And she turned around and walked away. Mind you -- she wasn't rude. It was clearly: what I don't know isn't my problem, go away, death stare.
Elle m'a fixée et m'a dit : « Je ne veux rien entendre de plus. » Puis elle s'est tournée et est partie. Elle n'était pas impolie. C'était clairement du :
(Laughter)
« ce que j'ignore n'est pas mon problème, allez-vous en, regard meurtrier ».
(Rires)
Look, such a system may even be less biased than human managers in some ways. And it could make monetary sense. But it could also lead to a steady but stealthy shutting out of the job market of people with higher risk of depression. Is this the kind of society we want to build, without even knowing we've done this, because we turned decision-making to machines we don't totally understand?
Un tel système pourrait être moins biaisé que les responsables humains. Et il pourrait être monétairement censé. Mais il pourrait aussi mener à une fermeture du marché du travail stable mais dissimulée pour les gens avec plus de risques de dépression. Est-ce le genre de société que nous voulons bâtir, sans même savoir que nous l'avons fait, car nous avons confié la prise de décisions à des machines
Another problem is this:
que nous ne comprenons pas vraiment ?
these systems are often trained on data generated by our actions, human imprints. Well, they could just be reflecting our biases, and these systems could be picking up on our biases and amplifying them and showing them back to us, while we're telling ourselves, "We're just doing objective, neutral computation."
Un autre problème : ces systèmes sont souvent entraînés sur des données générées par nos actions, des empreintes humaines. Elles pourraient refléter nos préjugés et ces systèmes pourraient apprendre nos préjugés, les amplifier et nous les retourner alors que nous nous disons : « Nous ne faisons que de l'informatique neutre et objective. »
Researchers found that on Google, women are less likely than men to be shown job ads for high-paying jobs. And searching for African-American names is more likely to bring up ads suggesting criminal history, even when there is none. Such hidden biases and black-box algorithms that researchers uncover sometimes but sometimes we don't know, can have life-altering consequences.
Des chercheurs chez Google ont découvert qu'on a moins de chances de montrer aux femmes plutôt qu'aux hommes des offres d'emploi avec un salaire élevé. Et chercher des noms afro-américains a plus de chances de retourner des publicités suggérant un historique criminel, même quand il n'y en a pas. De tels préjugés cachés et des algorithmes boîte noire qui sont parfois découverts par les chercheurs, parfois non, peuvent avoir des conséquences qui changent la vie.
In Wisconsin, a defendant was sentenced to six years in prison for evading the police. You may not know this, but algorithms are increasingly used in parole and sentencing decisions. He wanted to know: How is this score calculated? It's a commercial black box. The company refused to have its algorithm be challenged in open court. But ProPublica, an investigative nonprofit, audited that very algorithm with what public data they could find, and found that its outcomes were biased and its predictive power was dismal, barely better than chance, and it was wrongly labeling black defendants as future criminals at twice the rate of white defendants.
Dans le Wisconsin, un prévenu a été condamné à 6 ans de prison pour avoir échappé à la police. Vous l'ignorez peut-être mais des algorithmes sont utilisés pour les probations et les condamnations. Nous voulions savoir comment ce score était calculé. C'est une boîte noire commerciale. L'entreprise a refusé que l'on conteste son algorithme en audience publique. Mais ProPublica, une organisation d'enquête, a audité cet algorithme avec des données publiques et a découvert que les résultats étaient biaisés, que son pouvoir prédictif était mauvais, à peine meilleur que la chance, et qu'il étiquetait les prévenus noirs comme de futurs criminels avec un taux deux fois plus élevé que pour les prévenus blancs.
So, consider this case: This woman was late picking up her godsister from a school in Broward County, Florida, running down the street with a friend of hers. They spotted an unlocked kid's bike and a scooter on a porch and foolishly jumped on it. As they were speeding off, a woman came out and said, "Hey! That's my kid's bike!" They dropped it, they walked away, but they were arrested.
Considérez ce cas : cette femme était en retard pour récupérer sa filleule à une école du comté de Broward, en Floride, elle courait dans la rue avec une amie à elle. Elles ont repéré une bécane et un vélo non attachés sur un porche et ont bêtement sauté dessus. Alors qu'elles partaient, une femme est sortie et a dit : « Hey ! C'est la bécane de mon fils ! » Elles l'ont lâchée, sont parties mais ont été arrêtées.
She was wrong, she was foolish, but she was also just 18. She had a couple of juvenile misdemeanors. Meanwhile, that man had been arrested for shoplifting in Home Depot -- 85 dollars' worth of stuff, a similar petty crime. But he had two prior armed robbery convictions. But the algorithm scored her as high risk, and not him. Two years later, ProPublica found that she had not reoffended. It was just hard to get a job for her with her record. He, on the other hand, did reoffend and is now serving an eight-year prison term for a later crime. Clearly, we need to audit our black boxes and not have them have this kind of unchecked power.
Elle avait tort, elle a été idiote mais elle n'avait que 18 ans. Adolescente, elle avait commis quelques méfaits. Pendant ce temps, cet homme a été arrêté pour vol chez Home Depot -- pour une valeur de 85$, un crime mineur similaire. Mais il avait deux condamnations pour vol à main armée. L'algorithme l'a considérée elle, comme étant un risque important, pas lui. Deux ans plus tard, ProPublica a découvert qu'elle n'avait pas récidivé. Son casier judiciaire compliquait sa recherche d'emploi. Lui, d'un autre côté, avait récidivé et avait été condamné à 8 ans pour un autre crime. Clairement, nous devons auditer nos boîtes noires et ne pas leur laisser ce genre de pouvoir incontrôlé.
(Applause)
(Applaudissements)
Audits are great and important, but they don't solve all our problems. Take Facebook's powerful news feed algorithm -- you know, the one that ranks everything and decides what to show you from all the friends and pages you follow. Should you be shown another baby picture?
Les audits sont importants, mais ils ne résolvent pas tous nos problèmes. Prenez le puissant algorithme du fil d'actualités Facebook, celui qui classe tout et décide quoi vous montrer des amis et des pages que vous suivez. Devrait-on vous montrer une autre photo de bébé ?
(Laughter)
(Rires)
A sullen note from an acquaintance? An important but difficult news item? There's no right answer. Facebook optimizes for engagement on the site: likes, shares, comments.
Une note maussade d'une connaissance ? Une actualité importante mais dure ? Il n'y a pas de bonne réponse. Facebook optimise pour vous engager envers le site : les j'aime, partages, commentaires.
In August of 2014, protests broke out in Ferguson, Missouri, after the killing of an African-American teenager by a white police officer, under murky circumstances. The news of the protests was all over my algorithmically unfiltered Twitter feed, but nowhere on my Facebook. Was it my Facebook friends? I disabled Facebook's algorithm, which is hard because Facebook keeps wanting to make you come under the algorithm's control, and saw that my friends were talking about it. It's just that the algorithm wasn't showing it to me. I researched this and found this was a widespread problem.
En août 2014, des manifestations ont éclaté à Ferguson, dans le Missouri, après qu'un adolescent afro-américain a été tué par un officier de police blanc dans des circonstances douteuses. La nouvelle des manifestations remplissait mon fil d'actualité Twitter non filtré mais n'était pas sur mon Facebook. Était-ce mes amis Facebook ? J'ai désactivé l'algorithme Facebook, ce qui est difficile car Facebook veut vous faire passer sous le contrôle de l'algorithme, et j'ai vu que mes amis en parlaient. C'est juste que l'algorithme ne me le montrait pas. Après des recherches, j'ai découvert que le problème est répandu.
The story of Ferguson wasn't algorithm-friendly. It's not "likable." Who's going to click on "like?" It's not even easy to comment on. Without likes and comments, the algorithm was likely showing it to even fewer people, so we didn't get to see this. Instead, that week, Facebook's algorithm highlighted this, which is the ALS Ice Bucket Challenge. Worthy cause; dump ice water, donate to charity, fine. But it was super algorithm-friendly. The machine made this decision for us. A very important but difficult conversation might have been smothered, had Facebook been the only channel.
L'histoire de Ferguson ne plaisait pas à l'algorithme. Ce n'était pas « aimable », qui allait cliquer sur « j'aime » ? Ce n'est même pas facile à commenter. Sans j'aime et commentaires, l'algorithme allait le montrer à un nombre décroissant de gens, donc nous ne pouvions le voir. Cette semaine-là, Facebook a plutôt souligné ceci, le Ice Bucket Challenge. Cause méritante, lâcher d'eau glacée, donner à une charité, très bien. Cela plaisait beaucoup à l'algorithme. La machine a pris cette décision pour nous. Une conversation très importante mais difficile aurait pu être étouffée si Facebook avait été le seul canal.
Now, finally, these systems can also be wrong in ways that don't resemble human systems. Do you guys remember Watson, IBM's machine-intelligence system that wiped the floor with human contestants on Jeopardy? It was a great player. But then, for Final Jeopardy, Watson was asked this question: "Its largest airport is named for a World War II hero, its second-largest for a World War II battle."
Finalement, ces systèmes peuvent aussi avoir tort de façons qui ne ressemblent pas aux systèmes humains. Vous souvenez-vous de Watson, le système d'IA d'IBM qui a éliminé les participants humains dans Jeopardy ? C'était un super joueur. Mais, pour la finale de Jeopardy, on a posé cette question à Watson : « Le plus grand aéroport ayant le nom d'un héros de 39-45, le second plus grand pour une bataille de 39-45. »
(Hums Final Jeopardy music)
(Signal sonore de fin)
Chicago. The two humans got it right. Watson, on the other hand, answered "Toronto" -- for a US city category! The impressive system also made an error that a human would never make, a second-grader wouldn't make.
Chicago. Les deux humains avaient raison. Watson, par contre, a répondu « Toronto » -- à une question sur les villes des États-Unis ! L'impressionnant système a aussi fait une erreur qu'un humain ne ferait jamais, qu'un CE1 ne ferait jamais.
Our machine intelligence can fail in ways that don't fit error patterns of humans, in ways we won't expect and be prepared for. It'd be lousy not to get a job one is qualified for, but it would triple suck if it was because of stack overflow in some subroutine.
Notre intelligence artificielle peut échouer de façons ne correspondant pas aux schémas d'erreurs humaines, de façons inattendues et imprévues. Il serait lamentable de ne pas obtenir un emploi pour lequel on est qualifié mais ce serait pire si c'était à cause d'un dépassement de pile dans une sous-routine.
(Laughter)
(Rires)
In May of 2010, a flash crash on Wall Street fueled by a feedback loop in Wall Street's "sell" algorithm wiped a trillion dollars of value in 36 minutes. I don't even want to think what "error" means in the context of lethal autonomous weapons.
En mai 2010, un crash éclair sur Wall Street alimenté par une boucle de rétroaction dans un algorithme de vente de Wall Street a fait perdre mille milliards de dollars en 36 minutes. Je refuse de penser au sens du mot « erreur » dans le contexte des armes mortelles autonomes.
So yes, humans have always made biases. Decision makers and gatekeepers, in courts, in news, in war ... they make mistakes; but that's exactly my point. We cannot escape these difficult questions. We cannot outsource our responsibilities to machines.
Oui, les humains ont toujours été partiaux. Les preneurs de décision et gardiens, dans les tribunaux, les actualités, en guerre... Ils font des erreurs ; mais c'est de cela dont je parle. Nous ne pouvons pas échapper à ces questions difficiles. Nous ne pouvons pas sous-traiter nos responsabilités aux machines.
(Applause)
(Applaudissements)
Artificial intelligence does not give us a "Get out of ethics free" card.
L'intelligence artificielle n'offre pas une carte « sortie de l'éthique ».
Data scientist Fred Benenson calls this math-washing. We need the opposite. We need to cultivate algorithm suspicion, scrutiny and investigation. We need to make sure we have algorithmic accountability, auditing and meaningful transparency. We need to accept that bringing math and computation to messy, value-laden human affairs does not bring objectivity; rather, the complexity of human affairs invades the algorithms. Yes, we can and we should use computation to help us make better decisions. But we have to own up to our moral responsibility to judgment, and use algorithms within that framework, not as a means to abdicate and outsource our responsibilities to one another as human to human.
Le scientifique des données Fred Benenson qualifie cela de lavage des maths. Il nous faut l'opposé. Nous devons cultiver la suspicion, le contrôle et l'enquête de l'algorithme. Nous devons nous assurer de la responsabilité des algorithmes, les auditer et avoir une transparence significative. Nous devons accepter qu'apporter les maths et l'informatique dans les affaires humaines désordonnées et basées sur des valeurs n'apporte pas l'objectivité mais plutôt que la complexité des affaires humaines envahit les algorithmes. Nous devrions utiliser l'informatique pour prendre de meilleures décisions. Mais nous devons assumer notre responsabilité morale de jugement et utiliser les algorithmes dans ce cadre, pas comme un moyen d'abdiquer et sous-traiter nos responsabilités d'un humain à un autre.
Machine intelligence is here. That means we must hold on ever tighter to human values and human ethics.
L'intelligence artificielle est arrivée. Cela signifie que nous devons nous accrocher encore plus aux valeurs et éthiques humaines.
Thank you.
Merci.
(Applause)
(Applaudissements)