So a friend of mine was riding in a taxi to the airport the other day, and on the way, she was chatting with the taxi driver, and he said to her, with total sincerity, "I can tell you are a really good person." And when she told me this story later, she said she couldn't believe how good it made her feel, that it meant a lot to her. Now that may seem like a strong reaction from my friend to the words of a total stranger, but she's not alone.
Une de mes amies était dans un taxi vers l'aéroport l'autre jour et, en chemin, elle discutait avec le chauffeur de taxi et il lui a dit, tout à fait sincèrement : « Je peux dire que vous êtes quelqu'un de vraiment bien. » Quand elle m'a raconté cette histoire, elle a dit ne pas pouvoir croire à quel point elle se sentait bien, que cela lui importait beaucoup. Cela peut sembler être une réaction vive de la part de mon amie concernant les mots d'un parfait inconnu, mais elle n'est pas la seule.
I'm a social scientist. I study the psychology of good people, and research in my field says many of us care deeply about feeling like a good person and being seen as a good person. Now, your definition of "good person" and your definition of "good person" and maybe the taxi driver's definition of "good person" -- we may not all have the same definition, but within whatever our definition is, that moral identity is important to many of us.
Je suis chercheuse en sciences sociales. J'étudie la psychologie des gens bien et la recherche dans mon domaine dit que cela importe profondément à beaucoup d'avoir l'impression d'être et d'être perçu comme quelqu'un de bien. Votre définition de « quelqu'un de bien », votre définition de « quelqu'un de bien » et celle du chauffeur de taxi -- nous n'avons peut-être pas la même définition, mais peu importe notre définition, cette identité morale est importante pour beaucoup d'entre nous.
Now, if somebody challenges it, like they question us for a joke we tell, or maybe we say our workforce is homogenous, or a slippery business expense, we go into red-zone defensiveness a lot of the time. I mean, sometimes we call out all the ways in which we help people from marginalized groups, or we donate to charity, or the hours we volunteer to nonprofits. We work to protect that good person identity. It's important to many of us.
Si quelqu'un remet cela en question à cause d'une blague qu'on a racontée, que l'ensemble du personnel est homogène ou des frais professionnels douteux, nous entrons dans la zone rouge de l'attitude défensive. Parfois, nous pointons toutes les façons dont nous aidons des gens de groupes marginalisés, nos dons aux œuvres de charité ou nos heures de bénévolat pour des associations. Nous travaillons pour protéger cette identité de personne bien. Cela importe à beaucoup d'entre nous.
But what if I told you this? What if I told you that our attachment to being good people is getting in the way of us being better people? What if I told you that our definition of "good person" is so narrow, it's scientifically impossible to meet? And what if I told you the path to being better people just begins with letting go of being a good person?
Et si je vous disais ceci : et si je vous disais que notre attachement à être des gens bien nous empêche d'être des gens meilleurs ? Et si je vous disais que votre définition de « quelqu'un de bien » est si étroite qu'elle est scientifiquement impossible à satisfaire ? Et si je vous disais que le chemin pour être des gens meilleurs commençait par laisser tomber l'idée d'être quelqu'un de bien ?
Now, let me tell you a little bit about the research about how the human mind works to explain. The brain relies on shortcuts to do a lot of its work. That means a lot of the time, your mental processes are taking place outside of your awareness, like in low-battery, low-power mode in the back of your mind. That's, in fact, the premise of bounded rationality. Bounded rationality is the Nobel Prize-winning idea that the human mind has limited storage resources, limited processing power, and as a result, it relies on shortcuts to do a lot of its work. So for example, some scientists estimate that in any given moment ... Better, better click, right? There we go.
Laissez-moi vous parler un peu de la recherche sur le fonctionnement de l'esprit humain afin de vous expliquer. Le cerveau a recours à des raccourcis pour réaliser pas mal de son travail. Cela signifie que souvent, vos processus mentaux ont lieu au-delà de votre conscience, comme dans un mode batterie faible, faible consommation dans votre tête. C'est la prémisse de la rationalité limitée. La rationalité limitée est une idée récompensée d'un prix Nobel : l'esprit humain a des ressources de stockage limitées, une capacité de traitement limitée et, par conséquent, il a recours à des raccourcis pour réaliser pas mal de son travail. Par exemple, certains scientifiques estiment qu'à tout moment... Un meilleur claquement de doigts. Voilà.
(Laughter)
(Rires)
At any given moment, 11 million pieces of information are coming into your mind. Eleven million. And only 40 of them are being processed consciously. So 11 million, 40.
A tout moment, 11 millions d'informations parviennent à votre cerveau. Onze millions. Et seules 40 d'entre elles sont traitées consciemment. Onze millions, 40.
I mean, has this ever happened to you? Have you ever had a really busy day at work, and you drive home, and when you get in the door, you realize you don't even remember the drive home, like whether you had green lights or red lights. You don't even remember. You were on autopilot. Or have you ever opened the fridge, looked for the butter, swore there is no butter, and then realized the butter was right in front of you the whole time? These are the kinds of "whoops" moments that make us giggle, and this is what happens in a brain that can handle 11 million pieces of information coming in with only 40 being processed consciously. That's the bounded part of bounded rationality.
Cela vous est-il déjà arrivé ? Avez-vous déjà eu une journée très chargée au travail, vous rentrez chez vous en voiture et, arrivé à la porte, vous réalisez ne pas vous souvenir du trajet. Est-ce que vous avez eu des feux verts ou rouges ? Aucun souvenir, vous étiez en pilote automatique. Ou avez-vous déjà ouvert le frigo, cherché le beurre, juré qu'il n'y avait pas de beurre puis réalisé que le beurre était juste devant vous tout le temps ? Ce sont ces moments où l'on se dit « oups » et on en rigole et c'est ce qu'il se passe dans un cerveau qui peut gérer l'arrivée de 11 millions d'informations en en traitant seulement 40 consciemment. C'est la partie « limitée » de la rationalité limitée.
This work on bounded rationality is what's inspired work I've done with my collaborators Max Bazerman and Mahzarin Banaji, on what we call bounded ethicality. So it's the same premise as bounded rationality, that we have a human mind that is bounded in some sort of way and relying on shortcuts, and that those shortcuts can sometimes lead us astray. With bounded rationality, perhaps it affects the cereal we buy in the grocery store, or the product we launch in the boardroom. With bounded ethicality, the human mind, the same human mind, is making decisions, and here, it's about who to hire next, or what joke to tell or that slippery business decision.
Ce travail sur la rationalité limitée est ce qui a inspiré le travail que j'ai réalisé avec mes collaborateurs, Max Bazerman et Mahzarin Banaji, sur ce que nous appelons l'éthique limitée. C'est la même prémisse que la rationalité limitée : nous avons un esprit humain qui est limité d'une certaine façon et a recours à des raccourcis, et ces raccourcis peuvent parfois nous mener sur une mauvaise voie. Avec la rationalité limitée, cela affecte peut-être les céréales que nous achetons au supermarché ou le produit que nous lançons dans la salle de réunion. Avec l'éthique limitée, l'esprit humain, le même esprit humain, prend des décisions et il s'agit alors de savoir qui l'on va embaucher, quelle blague raconter ou une décision commerciale douteuse.
So let me give you an example of bounded ethicality at work. Unconscious bias is one place where we see the effects of bounded ethicality. So unconscious bias refers to associations we have in our mind, the shortcuts your brain is using to organize information, very likely outside of your awareness, not necessarily lining up with your conscious beliefs. Researchers Nosek, Banaji and Greenwald have looked at data from millions of people, and what they've found is, for example, most white Americans can more quickly and easily associate white people and good things than black people and good things, and most men and women can more quickly and easily associate men and science than women and science. And these associations don't necessarily line up with what people consciously think. They may have very egalitarian views, in fact. So sometimes, that 11 million and that 40 just don't line up.
Laissez-moi vous donner un exemple d'éthique limitée en action. Les préjugés inconscients sont une chose où nous voyons les effets de l'éthique limitée. Les préjugés inconscients font référence aux associations que nous avons dans notre esprit, aux raccourcis que votre cerveau utilise pour organiser les informations, très probablement sans que vous en ayez conscience, pas nécessairement en concordance avec vos croyances conscientes. Les chercheurs Nosek, Banaji et Greenwald ont étudié les données de millions de personnes et ont découvert, par exemple, que la plupart des Américains blancs peuvent plus rapidement et facilement associer des gens blancs et des bonnes choses que des gens noirs et des bonnes choses, et la plupart des hommes et femmes peuvent plus rapidement et facilement associer les hommes et la science que les femmes et la science. Ces associations ne concordent pas nécessairement à ce que les gens pensent consciemment. Ils peuvent avoir une vision très égalitaire. Parfois, ces 11 millions et ces 40 informations ne concordent pas.
And here's another example: conflicts of interest. So we tend to underestimate how much a small gift -- imagine a ballpoint pen or dinner -- how much that small gift can affect our decision making. We don't realize that our mind is unconsciously lining up evidence to support the point of view of the gift-giver, no matter how hard we're consciously trying to be objective and professional. We also see bounded ethicality -- despite our attachment to being good people, we still make mistakes, and we make mistakes that sometimes hurt other people, that sometimes promote injustice, despite our best attempts, and we explain away our mistakes rather than learning from them. Like, for example, when I got an email from a female student in my class saying that a reading I had assigned, a reading I had been assigning for years, was sexist. Or when I confused two students in my class of the same race -- look nothing alike -- when I confused them for each other more than once, in front of everybody.
Voici un autre exemple : les conflits d'intérêt. Nous avons tendance à sous-estimer combien un petit cadeau -- un stylo à bille ou un dîner -- combien un petit cadeau peut influencer notre prise de décision. Nous ne réalisons pas que notre esprit liste inconsciemment des preuves pour soutenir le point de vue du donateur, même si nous essayons consciemment d'être objectif et professionnel. Nous voyons aussi l'éthique limitée -- malgré notre attachement à être quelqu'un de bien, nous faisons quand même des erreurs et nous faisons parfois des erreurs qui blessent d'autres personnes, qui promeuvent l'injustice, malgré tous nos efforts, et nous justifions nos erreurs plutôt que d'en tirer des leçons. Par exemple, quand j'ai reçu un mail d'une étudiante de ma classe disant que la lecture que j'avais assignée, une lecture que j'assignais depuis des années, était sexiste. Ou quand j'ai confondu deux étudiants de ma classe de la même race -- ne se ressemblant pas du tout -- quand je les ai confondus plus d'une fois, devant tout le monde.
These kinds of mistakes send us, send me, into red-zone defensiveness. They leave us fighting for that good person identity. But the latest work that I've been doing on bounded ethicality with Mary Kern says that we're not only prone to mistakes -- that tendency towards mistakes depends on how close we are to that red zone. So most of the time, nobody's challenging our good person identity, and so we're not thinking too much about the ethical implications of our decisions, and our model shows that we're then spiraling towards less and less ethical behavior most of the time.
Ce genre d'erreurs nous expédient, m'expédient, dans la zone rouge de l'attitude défensive. Elles nous font nous battre pour cette identité de personne bien. Les derniers travaux que j'ai réalisés avec Mary Kern sur l'éthique limitée disent que nous ne sommes pas seulement plus enclins à faire des erreurs -- cette tendance à faire des erreurs dépend de notre proximité de cette zone rouge. En général, personne ne remet en cause cette identité de personne bien et nous ne réfléchissons pas trop aux implications éthiques de nos décisions et notre modèle montre que nous tombons alors le plus souvent vers un comportement de moins en moins éthique.
On the other hand, somebody might challenge our identity, or, upon reflection, we may be challenging it ourselves. So the ethical implications of our decisions become really salient, and in those cases, we spiral towards more and more good person behavior, or, to be more precise, towards more and more behavior that makes us feel like a good person, which isn't always the same, of course. The idea with bounded ethicality is that we are perhaps overestimating the importance our inner compass is playing in our ethical decisions. We perhaps are overestimating how much our self-interest is driving our decisions, and perhaps we don't realize how much our self-view as a good person is affecting our behavior, that in fact, we're working so hard to protect that good person identity, to keep out of that red zone, that we're not actually giving ourselves space to learn from our mistakes and actually be better people.
D'un autre côté, quelqu'un peut remettre en cause notre identité ou, en y réfléchissant, nous pouvons la remettre en cause nous-mêmes. Les implications éthiques de nos décisions deviennent saillantes et, dans ces cas-là, nous nous élevons de plus en plus vers un comportement de personne bien ou, pour être plus précise, de plus en plus vers un comportement nous donnant l'impression d'être quelqu'un de bien, ce qui, bien sûr, n'est pas toujours la même chose. L'idée de l'éthique limitée, c'est que nous surestimons peut-être l'importance que notre boussole interne a dans nos décisions éthiques. Nous surestimons peut-être combien notre propre intérêt guide nos décisions et nous ne réalisons peut-être pas combien notre vision de nous-même comme quelqu'un de bien influence notre comportement. Nous travaillons si dur pour protéger cette identité de personne bien, pour rester en dehors de cette zone rouge que nous ne nous donnons pas d'espace pour apprendre de nos erreurs et être de meilleures personnes.
It's perhaps because we expect it to be easy. We have this definition of good person that's either-or. Either you are a good person or you're not. Either you have integrity or you don't. Either you are a racist or a sexist or a homophobe or you're not. And in this either-or definition, there's no room to grow. And by the way, this is not what we do in most parts of our lives. Life, if you needed to learn accounting, you would take an accounting class, or if you become a parent, we pick up a book and we read about it. We talk to experts, we learn from our mistakes, we update our knowledge, we just keep getting better. But when it comes to being a good person, we think it's something we're just supposed to know, we're just supposed to do, without the benefit of effort or growth.
C'est peut-être car nous nous attendons à ce que cela soit simple. Nous avons cette définition binaire d'une personne bien. Soit vous êtes quelqu'un de bien, soit vous ne l'êtes pas. Soit vous êtes intègre, soit vous ne l'êtes pas. Soit vous êtes raciste, sexiste ou homophobe, soit vous ne l'êtes pas. Dans cette définition binaire, il n'y a pas de place pour se développer. Au passage, ce n'est pas ce que nous faisons la plupart du temps. Si vous devez apprendre la comptabilité, vous suivez un cours de comptabilité. Si vous devenez parent, vous prenez un livre et lisez sur le sujet. Nous parlons à des experts, nous apprenons de nos erreurs, nous actualisons nos connaissances, nous nous améliorons. Quand il s'agit d'être quelqu'un de bien, nous pensons être simplement censés savoir, être simplement censés faire, sans tirer parti de nos efforts ou de notre développement.
So what I've been thinking about is what if we were to just forget about being good people, just let it go, and instead, set a higher standard, a higher standard of being a good-ish person? A good-ish person absolutely still makes mistakes. As a good-ish person, I'm making them all the time. But as a good-ish person, I'm trying to learn from them, own them. I expect them and I go after them. I understand there are costs to these mistakes. When it comes to issues like ethics and bias and diversity and inclusion, there are real costs to real people, and I accept that. As a good-ish person, in fact, I become better at noticing my own mistakes. I don't wait for people to point them out. I practice finding them, and as a result ... Sure, sometimes it can be embarrassing, it can be uncomfortable. We put ourselves in a vulnerable place, sometimes. But through all that vulnerability, just like in everything else we've tried to ever get better at, we see progress. We see growth. We allow ourselves to get better.
Voici ce à quoi j'ai réfléchi : et si nous oubliions le fait d'être quelqu'un de bien, si nous laissiions tomber, et au lieu de cela, fixions la barre plus haut, fixions la barre à être quelqu'un d'à peu près bien ? Quelqu'un d'à peu près bien fait certainement encore des erreurs. En tant que personne à peu près bien, j'en fais tout le temps mais j'essaye d'en tirer des leçons, d'en prendre la responsabilité. Je les attends et je les cherche. Je comprends que ces erreurs ont des conséquences. Quand il s'agit de questions comme l'éthique, les préjugés, la diversité et l'inclusion, il y a de vraies conséquences pour de vraies personnes et je l'accepte. En tant que personne à peu près bien, je m'améliore à remarquer mes propres erreurs. Je n'attends pas que les gens les signalent. Je m'entraîne à les trouver et, par conséquence... Bien sûr, parfois cela peut être embarrassant, cela peut être gênant. Nous nous mettons parfois dans une position de vulnérabilité. Mais à travers toute cette vulnérabilité, tout comme dans toute autre chose où nous avons essayé de nous améliorer, nous voyons des progrès. Nous voyons une croissance. Nous nous permettons de nous améliorer.
Why wouldn't we give ourselves that? In every other part of our lives, we give ourselves room to grow -- except in this one, where it matters most.
Pourquoi ne pas nous le permettre ? Dans tous les autres domaines de notre vie, nous nous donnons de l'espace pour grandir, à part dans celui-là, là où cela compte le plus.
Thank you.
Merci.
(Applause)
(Applaudissements)