Some years ago, I was on an airplane with my son who was just five years old at the time. My son was so excited about being on this airplane with Mommy. He's looking all around and he's checking things out and he's checking people out. And he sees this man, and he says, "Hey! That guy looks like Daddy!" And I look at the man, and he didn't look anything at all like my husband, nothing at all. And so then I start looking around on the plane, and I notice this man was the only black guy on the plane. And I thought, "Alright. I'm going to have to have a little talk with my son about how not all black people look alike." My son, he lifts his head up, and he says to me, "I hope he doesn't rob the plane." And I said, "What? What did you say?" And he says, "Well, I hope that man doesn't rob the plane." And I said, "Well, why would you say that? You know Daddy wouldn't rob a plane." And he says, "Yeah, yeah, yeah, well, I know." And I said, "Well, why would you say that?" And he looked at me with this really sad face, and he says, "I don't know why I said that. I don't know why I was thinking that."
Há alguns anos, eu estava em um voo com meu filho, que tinha apenas cinco anos na época. Meu filho estava tão empolgado por estar naquele avião com a mãe dele. Ele olhava tudo a nossa volta, e mexia em tudo que via, e ficava olhando as pessoas. Até que viu um homem e disse: "Olha, esse homem parece o papai!" Então, olhei para o homem, e ele não parecia em nada com o meu marido. Nada mesmo. A seguir, comecei a reparar nas pessoas ao redor e notei que esse homem era o único homem preto no avião. Então pensei: "Muito bem, acho que terei de conversar com meu filho sobre isso, sobre como nem todas as pessoas pretas são iguais". Meu filho levanta a cabeça e me diz: "Espero que ele não roube o avião". Então falei: "O quê? O que você disse?" E ele respondeu: "Bem, espero que aquele homem não roube o avião". Daí, perguntei: "Por que você disse isso? Você sabe que seu pai nunca roubaria um avião". Então ele disse: "Sim, sim, sim, eu sei". "Mas por que disse isso?", perguntei. Daí ele me olhou com uma expressão muito triste e falou: "Não sei por que disse isso. Não sei por que pensei assim".
We are living with such severe racial stratification that even a five-year-old can tell us what's supposed to happen next, even with no evildoer, even with no explicit hatred. This association between blackness and crime made its way into the mind of my five-year-old. It makes its way into all of our children, into all of us. Our minds are shaped by the racial disparities we see out in the world and the narratives that help us to make sense of the disparities we see: "Those people are criminal." "Those people are violent." "Those people are to be feared."
Vivemos uma estratificação racial tão grande que até mesmo um menino de cinco anos conseguia prever o que esperar, mesmo que não houvesse malfeito algum, mesmo sem o ódio explícito. Essa associação entre pele negra e crime invadiu a cabecinha do meu filho de cinco anos de idade. Ela invade a cabecinha de todas as crianças. Ela está dentro de todos nós. Nossas mentes são moldadas pelas discrepâncias raciais que vemos mundo afora e pelas narrativas que nos ajudam a dar sentido às diferenças: "Essas pessoas são criminosas"; "Essas pessoas são violentas"; "Devemos ter medo dessas pessoas".
When my research team brought people into our lab and exposed them to faces, we found that exposure to black faces led them to see blurry images of guns with greater clarity and speed. Bias cannot only control what we see, but where we look. We found that prompting people to think of violent crime can lead them to direct their eyes onto a black face and away from a white face. Prompting police officers to think of capturing and shooting and arresting leads their eyes to settle on black faces, too.
Quando minha equipe de pesquisadores trouxe pessoas ao laboratório e mostrou alguns rostos a elas, descobrimos que elas associavam o rosto das pessoas pretas a armas de fogo com muita clareza e rapidez. O preconceito não controla apenas o que vemos, mas para onde olhamos. Percebemos que induzir as pessoas a pensarem sobre violência faz com que dirijam o olhar para o rosto de uma pessoa preta, e não para o rosto de uma pessoa branca. Induzir policiais a pensar em capturas, tiroteios e prisões faz com que eles pousem o olhar em rostos de pessoas pretas também.
Bias can infect every aspect of our criminal justice system. In a large data set of death-eligible defendants, we found that looking more black more than doubled their chances of receiving a death sentence -- at least when their victims were white. This effect is significant, even though we controlled for the severity of the crime and the defendant's attractiveness. And no matter what we controlled for, we found that black people were punished in proportion to the blackness of their physical features: the more black, the more death-worthy.
O preconceito infecta todos os aspectos do nosso sistema de justiça penal. Num grande grupo de dados de presidiários no corredor da morte, verificamos que parecer mais preto dobrava as chances de condenação a uma pena de morte, ao menos quando as vítimas eram brancas. O resultado é significante, embora tenhamos controlado a gravidade do crime e quão atraente era o réu. Não importa o que é controlado, detectamos que pessoas pretas são punidas na proporção da negritude das características físicas que possuem: quanto mais preta é a cor da pele, mais merecedor da pena de morte.
Bias can also influence how teachers discipline students. My colleagues and I have found that teachers express a desire to discipline a black middle school student more harshly than a white student for the same repeated infractions. In a recent study, we're finding that teachers treat black students as a group but white students as individuals. If, for example, one black student misbehaves and then a different black student misbehaves a few days later, the teacher responds to that second black student as if he had misbehaved twice. It's as though the sins of one child get piled onto the other.
O preconceito também influencia como professores disciplinam os alunos. Meus colegas e eu descobrimos que professores tendem a disciplinar com mais severidade um aluno preto do ensino fundamental que um branco pelas mesmas repetidas infrações. Num estudo recente, foi observado que professores lidam com alunos pretos como um grupo, mas tratam os brancos como indivíduos. Se, por exemplo, um aluno preto não se comporta adequadamente, e dias depois outro aluno preto apresenta o mesmo mau comportamento, o professor reagirá a esse segundo aluno como se ele tivesse se comportado mal em dobro. É como se os pecados de uma criança fossem empilhados sobre os da outra.
We create categories to make sense of the world, to assert some control and coherence to the stimuli that we're constantly being bombarded with. Categorization and the bias that it seeds allow our brains to make judgments more quickly and efficiently, and we do this by instinctively relying on patterns that seem predictable. Yet, just as the categories we create allow us to make quick decisions, they also reinforce bias. So the very things that help us to see the world also can blind us to it. They render our choices effortless, friction-free. Yet they exact a heavy toll.
Criamos categorias para dar sentido ao mundo, para termos algum controle e coerência sobre estímulos com que somos bombardeados incessantemente. A categorização e o preconceito que ela semeia permitem que nossos cérebros sejam mais rápidos e eficientes em julgar, e fazemos isso por causa dessa instintiva confiança em padrões que parecem previsíveis. Todavia, as mesmas classificações que nos permitem decidir com rapidez também reforçam estereótipos. Portanto, as mesmas coisas que nos ajudam a ver o mundo também podem nos cegar para ele. Elas tornam nossas escolhas automáticas, livres de resistência. Ainda assim, cobram caro por isso.
So what can we do? We are all vulnerable to bias, but we don't act on bias all the time. There are certain conditions that can bring bias alive and other conditions that can muffle it.
Então, o que podemos fazer? Estamos todos vulneráveis ao preconceito, mas nem sempre agimos dessa forma. Existem algumas situações que trazem o preconceito à tona, e outras que podem camuflá-lo.
Let me give you an example. Many people are familiar with the tech company Nextdoor. So, their whole purpose is to create stronger, healthier, safer neighborhoods. And so they offer this online space where neighbors can gather and share information. Yet, Nextdoor soon found that they had a problem with racial profiling. In the typical case, people would look outside their window and see a black man in their otherwise white neighborhood and make the snap judgment that he was up to no good, even when there was no evidence of criminal wrongdoing. In many ways, how we behave online is a reflection of how we behave in the world. But what we don't want to do is create an easy-to-use system that can amplify bias and deepen racial disparities, rather than dismantling them.
Deixem que eu dê um exemplo a vocês. Muitas pessoas estão familiarizadas com a empresa de tecnologia Nextdoor. O objetivo deles é criar vizinhanças mais fortes, saudáveis e seguras. Por isso oferecem um espaço on-line no qual os vizinhos podem se reunir e compartilhar informações. No entanto, a empresa logo descobriu que havia um problema com discriminação por perfil racial. Em um caso típico, as pessoas olhavam pela janela e observavam um homem preto em uma vizinhança de maioria branca, faziam um julgamento rápido de que aquele homem tinha atitude suspeita ainda que não houvesse evidência alguma de infrações criminosas. Em muitos aspectos, o comportamento on-line é um reflexo de como agimos no dia a dia. Entretanto, não queremos criar uma interface amigável que amplifique o preconceito e aprofunde as diferenças raciais, ao invés de desconstruir essas questões.
So the cofounder of Nextdoor reached out to me and to others to try to figure out what to do. And they realized that to curb racial profiling on the platform, they were going to have to add friction; that is, they were going to have to slow people down. So Nextdoor had a choice to make, and against every impulse, they decided to add friction. And they did this by adding a simple checklist. There were three items on it. First, they asked users to pause and think, "What was this person doing that made him suspicious?" The category "black man" is not grounds for suspicion. Second, they asked users to describe the person's physical features, not simply their race and gender. Third, they realized that a lot of people didn't seem to know what racial profiling was, nor that they were engaging in it. So Nextdoor provided them with a definition and told them that it was strictly prohibited. Most of you have seen those signs in airports and in metro stations, "If you see something, say something." Nextdoor tried modifying this. "If you see something suspicious, say something specific." And using this strategy, by simply slowing people down, Nextdoor was able to curb racial profiling by 75 percent.
Então, um dos cofundadores da Nextdoor me contatou e outros colegas a fim de procurarmos uma solução. Eles entenderam que, para reduzir o preconceito racial na plataforma, teriam de adicionar resistência. A ideia era frear os usuários. Assim, a empresa tinha uma escolha a fazer e, para prevenir essas ações impulsivas, decidiram adicionar resistência. Eles fizeram isso criando um simples questionário. Havia três itens nele: primeiro, era pedido ao usuário para parar e pensar: "O que aquela pessoa estava fazendo que a tornava suspeita?" A resposta "homem preto" não serviria para identificar alguém como suspeito. Segundo, eles pediram ao usuário para descrever as características da pessoa, não apenas o gênero e a etnia. Terceiro, eles perceberam que muitas pessoas pareciam não saber o que era discriminação por perfil racial nem que elas estavam agindo dessa maneira. Então a Nextdoor explicou o conceito para elas e estabeleceu que esse tipo de coisa era completamente proibida. A maioria já deve ter visto essas placas nos aeroportos e em algumas estações de metrô: "Se vir alguma coisa, diga alguma coisa". A Nextdoor tentou modificar a frase: "Se vir algo suspeito, diga algo específico". E, ao usar a estratégia de meramente fazer os usuários pararem pra pensar, a Nextdoor foi capaz de reduzir a discriminação por perfil racial em 75%.
Now, people often will say to me, "You can't add friction in every situation, in every context, and especially for people who make split-second decisions all the time." But it turns out we can add friction to more situations than we think. Working with the Oakland Police Department in California, I and a number of my colleagues were able to help the department to reduce the number of stops they made of people who were not committing any serious crimes. And we did this by pushing officers to ask themselves a question before each and every stop they made: "Is this stop intelligence-led, yes or no?" In other words, do I have prior information to tie this particular person to a specific crime? By adding that question to the form officers complete during a stop, they slow down, they pause, they think, "Why am I considering pulling this person over?"
Mas as pessoas sempre me dizem: "Você não pode adicionar resistência em todas as situações e contextos e, principalmente, com pessoas que tomam decisões rápidas o tempo todo". Mas, obviamente, resistência pode ser adicionada em mais situações do que se pode imaginar. Trabalhando com o departamento de polícia de Oakland, na Califórnia, meus colegas e eu conseguimos ajudá-los a reduzir o número de abordagens de pessoas que não estavam cometendo nenhum crime grave. Fizemos isso provocando os policiais a se perguntarem antes de cada abordagem: "Esta abordagem é motivada por alguma informação concreta? Sim ou não?" Em outras palavras, "Tenho alguma informação prévia para relacionar essa pessoa em particular a algum crime específico?" Ao adicionar essa pergunta ao formulário que os policiais preenchem durante uma abordagem, eles saem do automático, param, pensam: "Por que estou cogitando pedir para essa pessoa estacionar?"
In 2017, before we added that intelligence-led question to the form, officers made about 32,000 stops across the city. In that next year, with the addition of this question, that fell to 19,000 stops. African-American stops alone fell by 43 percent. And stopping fewer black people did not make the city any more dangerous. In fact, the crime rate continued to fall, and the city became safer for everybody.
Em 2017, antes de incluirmos essa pergunta ao formulário, os policiais fizeram 32 mil abordagens na cidade. No ano seguinte, com a adição da pergunta, o número de abordagens caiu para 19 mil. Apenas as abordagens em afro-americanos caíram 43%. Abordar menos pessoas pretas não tornou a cidade mais perigosa. Na verdade, a taxa de crimes continuou a cair, e a cidade se tornou segura para todos.
So one solution can come from reducing the number of unnecessary stops. Another can come from improving the quality of the stops officers do make. And technology can help us here. We all know about George Floyd's death, because those who tried to come to his aid held cell phone cameras to record that horrific, fatal encounter with the police. But we have all sorts of technology that we're not putting to good use. Police departments across the country are now required to wear body-worn cameras so we have recordings of not only the most extreme and horrific encounters but of everyday interactions.
Então, uma das soluções pode vir da redução de abordagens desnecessárias. Uma outra solução pode vir da melhora na qualidade dessas abordagens que os policiais fazem. A tecnologia pode nos ajudar nesse ponto. Todos ficamos sabendo sobre a morte de George Floyd porque aqueles que tentaram ajudá-lo empunharam as câmeras dos smartphones para gravar aquele terrível e fatal encontro com a polícia. Mas temos todos os tipos de tecnologia das quais não fazemos um bom uso. Departamentos de polícia pelo país são agora obrigados a adotar câmeras acopladas ao corpo dos policiais. Dessa forma, há gravações não apenas dos encontros mais terríveis e violentos, mas também gravações das interações diárias.
With an interdisciplinary team at Stanford, we've begun to use machine learning techniques to analyze large numbers of encounters. This is to better understand what happens in routine traffic stops. What we found was that even when police officers are behaving professionally, they speak to black drivers less respectfully than white drivers. In fact, from the words officers use alone, we could predict whether they were talking to a black driver or a white driver.
E, com uma equipe multidisciplinar em Stanford, começamos a usar técnicas de aprendizado de máquina para analisar um grande número de confrontos. Isso, para entendermos melhor o que ocorre em abordagens no trânsito. O que descobrimos foi que, mesmo quando os policiais se comportam com profissionalismo, motoristas pretos são mais desrespeitados do que motoristas brancos. Na verdade apenas com palavras usadas pelos policiais, conseguimos prever se eles estão falando com um motorista preto ou branco.
The problem is that the vast majority of the footage from these cameras is not used by police departments to understand what's going on on the street or to train officers. And that's a shame. How does a routine stop turn into a deadly encounter? How did this happen in George Floyd's case? How did it happen in others?
O problema está no fato de que a grande maioria das filmagens dessas câmeras não são utilizadas pelas autoridades para entender o que está acontecendo nas ruas ou para treinar policiais. E isso é uma pena. Como uma abordagem de rotina acaba em um encontro mortal? Como isso aconteceu no caso de George Floyd? Como acontece em outros casos?
When my eldest son was 16 years old, he discovered that when white people look at him, they feel fear. Elevators are the worst, he said. When those doors close, people are trapped in this tiny space with someone they have been taught to associate with danger. My son senses their discomfort, and he smiles to put them at ease, to calm their fears. When he speaks, their bodies relax. They breathe easier. They take pleasure in his cadence, his diction, his word choice. He sounds like one of them. I used to think that my son was a natural extrovert like his father. But I realized at that moment, in that conversation, that his smile was not a sign that he wanted to connect with would-be strangers. It was a talisman he used to protect himself, a survival skill he had honed over thousands of elevator rides. He was learning to accommodate the tension that his skin color generated and that put his own life at risk.
Quando meu filho mais velho tinha 16 anos, percebeu que, quando pessoas brancas o viam, sentiam medo. "Elevadores eram os piores lugares", ele dizia. Quando as portas se fechavam, as pessoas ficavam presas naquele espaço minúsculo com alguém que eles foram ensinados a associar com perigo. Meu filho sentia o desconforto deles, e então sorria para tranquilizá-los, para acalmar o medo deles. Quando ele falava, o corpo das pessoas relaxava. Elas respiravam com maior facilidade. Sentiam prazer no seu tom de voz, sua dicção e na escolha das palavras: meu filho soava como um branco. Eu costumava a pensar que ele era naturalmente extrovertido como o pai, mas soube naquele momento, naquela conversa, que o sorriso dele não era um sinal de que tinha vontade de se aproximar de pessoas estranhas. Era um talismã que usava para proteção, uma habilidade de sobrevivência que adquiriu ao entrar nos elevadores. Ele aprendeu a amenizar as tensões que a sua cor da pele criava. E isso colocava a vida dele em risco.
We know that the brain is wired for bias, and one way to interrupt that bias is to pause and to reflect on the evidence of our assumptions. So we need to ask ourselves: What assumptions do we bring when we step onto an elevator? Or an airplane? How do we make ourselves aware of our own unconscious bias? Who do those assumptions keep safe? Who do they put at risk? Until we ask these questions and insist that our schools and our courts and our police departments and every institution do the same, we will continue to allow bias to blind us. And if we do, none of us are truly safe.
Sabemos que o cérebro está programado para criar estereótipos, e uma forma de interromper o preconceito é parar e pensar nas evidências de nossas conjeturas. Portanto, precisamos nos questionar: "Que tipo de hipóteses levantamos ao pisar dentro de um elevador? Ou de um avião?"; "Como nos tornamos conscientes dos preconceitos estruturais?"; "Como essas conjeturas irão nos manter seguros?"; "A quem elas põem em risco?" Até que façamos essas perguntas e insistamos que nossas escolas, tribunais, departamentos de polícia e todas as instituições façam o mesmo, continuamos a permitir que o preconceito nos deixe cegos. Se deixarmos isso acontecer, nenhum de nós está realmente a salvo.
Thank you.
Obrigada.