So, I started my first job as a computer programmer in my very first year of college -- basically, as a teenager.
Comecei a trabalhar como programadora informática no meu primeiro ano de faculdade — basicamente uma adolescente.
Soon after I started working, writing software in a company, a manager who worked at the company came down to where I was, and he whispered to me, "Can he tell if I'm lying?" There was nobody else in the room.
Pouco depois de começar a trabalhar, a programar <i>software </i>numa empresa. um gestor que trabalhava na empresa veio ter comigo e segredou-me: "Ele consegue saber se eu estou a mentir?" Não havia mais ninguém na sala.
"Can who tell if you're lying? And why are we whispering?"
“Quem poderá saber que você está a mentir? “Porque é que estamos a segredar?”
The manager pointed at the computer in the room. "Can he tell if I'm lying?" Well, that manager was having an affair with the receptionist.
O gestor apontou para o computador na sala. "Ele consegue saber se eu estou a mentir?" Aquele gestor tinha um caso romântico com a rececionista.
(Laughter)
(Risos)
And I was still a teenager. So I whisper-shouted back to him, "Yes, the computer can tell if you're lying."
Eu ainda era uma adolescente. Por isso, sussurrei-gritei: "Sim, o computador sabe que você está a mentir."
(Laughter)
(Risos)
Well, I laughed, but actually, the laugh's on me. Nowadays, there are computational systems that can suss out emotional states and even lying from processing human faces. Advertisers and even governments are very interested.
Bem, eu ri-me, mas, na verdade, hoje riem-se de mim. Atualmente, há sistemas informáticos que conseguem detetar estados emocionais e mesmo a mentira processando apenas os rostos humanos. Os publicitários e até os governos estão muito interessados nesta tecnologia.
I had become a computer programmer because I was one of those kids crazy about math and science. But somewhere along the line I'd learned about nuclear weapons, and I'd gotten really concerned with the ethics of science. I was troubled. However, because of family circumstances, I also needed to start working as soon as possible. So I thought to myself, hey, let me pick a technical field where I can get a job easily and where I don't have to deal with any troublesome questions of ethics. So I picked computers.
Tornei-me programadora informática porque era um daqueles miúdos loucos por matemática e ciências. Mas, ao longo do caminho descobri as armas nucleares e fiquei muito preocupada com a ética da ciência. Fiquei perturbada. No entanto, devido a circunstâncias familiares, também precisava de começar a trabalhar o mais cedo possível. Então pensei: "Bem, vou escolher uma área técnica “onde consiga facilmente um emprego “e onde não tenha de lidar com essas questões incómodas da ética”. Escolhi a informática.
(Laughter)
(Risos)
Well, ha, ha, ha! All the laughs are on me. Nowadays, computer scientists are building platforms that control what a billion people see every day. They're developing cars that could decide who to run over. They're even building machines, weapons, that might kill human beings in war. It's ethics all the way down.
Bem, ha, ha, ha! Riam-se todos de mim. Hoje, os cientistas de informática estão a construir plataformas que controlam o que mil milhões de pessoas veem todos os dias. Estão a desenvolver carros que podem decidir quem vão atropelar. Estão inclusive a construir máquinas, armas, que poderão matar seres humanos, em guerras. Há ética por todo o lado.
Machine intelligence is here. We're now using computation to make all sort of decisions, but also new kinds of decisions. We're asking questions to computation that have no single right answers, that are subjective and open-ended and value-laden.
A inteligência artificial já chegou. Estamos a usar a informática para tomar todo o tipo de decisões, mas também novos tipos de decisões. Estamos a fazer perguntas que não têm uma resposta certa, que são subjetivas, estão em aberto e assentam em valores.
We're asking questions like, "Who should the company hire?" "Which update from which friend should you be shown?" "Which convict is more likely to reoffend?" "Which news item or movie should be recommended to people?"
Fazemos perguntas como: "Quem é que a empresa deve contratar?" “Que notícias de que amigo nos devem mostrar?” "Qual o prisioneiro que reincidirá mais facilmente?"" "Que notícia ou filme deve ser recomendado?"
Look, yes, we've been using computers for a while, but this is different. This is a historical twist, because we cannot anchor computation for such subjective decisions the way we can anchor computation for flying airplanes, building bridges, going to the moon. Are airplanes safer? Did the bridge sway and fall? There, we have agreed-upon, fairly clear benchmarks, and we have laws of nature to guide us. We have no such anchors and benchmarks for decisions in messy human affairs.
Sim, já utilizamos os computadores há algum tempo, mas isto é diferente. Esta é uma mudança histórica, porque não podemos apoiar-nos na informática para decisões tão subjetivas, da mesma forma que nos apoiamos na informática para pôr aviões no ar, para construir pontes, para voar até à Lua. Os aviões são mais seguros? Será que a ponte vai balançar e cair? Nestes casos, chegámos a acordo sobre referências bastante claras, tendo as leis da natureza para nos guiar. Não temos esses apoios e referências para as decisões sobre os complexos assuntos humanos.
To make things more complicated, our software is getting more powerful, but it's also getting less transparent and more complex. Recently, in the past decade, complex algorithms have made great strides. They can recognize human faces. They can decipher handwriting. They can detect credit card fraud and block spam and they can translate between languages. They can detect tumors in medical imaging. They can beat humans in chess and Go.
Para complicar ainda mais, o <i>software </i>está cada vez mais poderoso, mas também está a ficar menos transparente e mais complexo. Recentemente, na última década, os algoritmos complexos alcançaram grandes feitos. Conseguem reconhecer rostos humanos. Podem decifrar a caligrafia. Detetam fraudes de cartões de crédito e bloqueiam <i>spam</i>. Conseguem traduzir idiomas. Conseguem detetar tumores em imagens médicas. Vencem os seres humanos no xadrez e no Go.
Much of this progress comes from a method called "machine learning." Machine learning is different than traditional programming, where you give the computer detailed, exact, painstaking instructions. It's more like you take the system and you feed it lots of data, including unstructured data, like the kind we generate in our digital lives. And the system learns by churning through this data. And also, crucially, these systems don't operate under a single-answer logic. They don't produce a simple answer; it's more probabilistic: "This one is probably more like what you're looking for."
Grande parte deste progresso obteve-se com um método chamado “aprendizagem automática.” A aprendizagem automática é diferente da programação tradicional, na qual se dá ao computador instruções detalhadas, meticulosas e exatas. Com este novo método, disponibilizam-se grandes quantidades de dados ao sistema, — incluindo dados não estruturados, como os que geramos na nossa vida digital. O sistema aprende analisando esses dados. Para além disso, estes sistemas não funcionam sob uma lógica de resposta única. Não produzem uma resposta única; é mais probabilista: "Isto, provavelmente, está mais próximo do que procura."
Now, the upside is: this method is really powerful. The head of Google's AI systems called it, "the unreasonable effectiveness of data." The downside is, we don't really understand what the system learned. In fact, that's its power. This is less like giving instructions to a computer; it's more like training a puppy-machine-creature we don't really understand or control. So this is our problem. It's a problem when this artificial intelligence system gets things wrong. It's also a problem when it gets things right, because we don't even know which is which when it's a subjective problem. We don't know what this thing is thinking.
A vantagem é que este método é muito poderoso. O chefe de sistemas da IA do Google, chamou-lhe: "A eficácia irracional dos dados". A desvantagem é que não entendemos concretamente o que o sistema aprendeu. Na verdade, é essa a sua força. É diferente de dar instruções ao computador, é sobretudo como treinar um cachorrinho-máquina que não entendemos nem controlamos. Portanto, este é o problema. É problemático quando a IA compreende mal as coisas. É também um problema quando as compreende bem, porque nem sabemos o que é o quê quando se trata de um problema subjetivo. Nós não sabemos o que a máquina está a pensar.
So, consider a hiring algorithm -- a system used to hire people, using machine-learning systems. Such a system would have been trained on previous employees' data and instructed to find and hire people like the existing high performers in the company. Sounds good. I once attended a conference that brought together human resources managers and executives, high-level people, using such systems in hiring. They were super excited. They thought that this would make hiring more objective, less biased, and give women and minorities a better shot against biased human managers.
Assim, imaginem um algoritmo de contratação de pessoal — um sistema usado para contratar pessoas, utilizando a aprendizagem automática. Um sistema desses teria de ser treinado com dados dos empregados anteriores e instruído para encontrar e contratar pessoas semelhantes aos melhores profissionais da empresa. Parece bem. Uma vez, fui a uma conferência que juntou gestores de recursos humanos e executivos, pessoas de alto nível, que usam esses sistemas para contratação. Estavam super entusiasmados, Achavam que isto tornaria a contratação mais objetiva, menos tendenciosa, e daria mais hipóteses às mulheres e minorias, ao contrário dos gestores tendenciosos de Relações Humanas .
And look -- human hiring is biased. I know. I mean, in one of my early jobs as a programmer, my immediate manager would sometimes come down to where I was really early in the morning or really late in the afternoon, and she'd say, "Zeynep, let's go to lunch!" I'd be puzzled by the weird timing. It's 4pm. Lunch? I was broke, so free lunch. I always went. I later realized what was happening. My immediate managers had not confessed to their higher-ups that the programmer they hired for a serious job was a teen girl who wore jeans and sneakers to work. I was doing a good job, I just looked wrong and was the wrong age and gender.
Notem, a contratação humana é tendenciosa. Eu bem sei. Num dos meus primeiros empregos como programadora, a minha chefe direta, às vezes vinha ter comigo, muito cedo de manhã ou muito ao final da tarde, e dizia: "Zeynep, vamos almoçar!" Eu ficava intrigada com aquele horário estranho. São 16 horas. Almoço? Como estava sem dinheiro — almoço grátis — aceitava sempre. Mais tarde percebi porquê: Os meus chefes diretos não tinham informado os superiores que o programador contratado para um trabalho de responsabilidade era uma miúda adolescente que usava <i>jeans </i>e ténis para trabalhar. Eu fazia um bom trabalho, mas tinha um aspeto não convencional e tinha a idade e sexo errados.
So hiring in a gender- and race-blind way certainly sounds good to me. But with these systems, it is more complicated, and here's why: Currently, computational systems can infer all sorts of things about you from your digital crumbs, even if you have not disclosed those things. They can infer your sexual orientation, your personality traits, your political leanings. They have predictive power with high levels of accuracy. Remember -- for things you haven't even disclosed. This is inference.
Logo, contratar sem olhar ao sexo e à etnia claro que me soa bem. Mas com estes sistemas, é mais complicado. Sabem porquê? Atualmente, os sistemas informáticos conseguem inferir todo o tipo de coisas sobre uma pessoa a partir das suas migalhas digitais, mesmo que a pessoa não tenha divulgado essas coisas. Conseguem inferir a sua orientação sexual, os seus traços de personalidade, as inclinações políticas. Conseguem prever coisas com elevados níveis de precisão. Notem... coisas que nem sequer divulgámos conscientemente. Isto é dedução.
I have a friend who developed such computational systems to predict the likelihood of clinical or postpartum depression from social media data. The results are impressive. Her system can predict the likelihood of depression months before the onset of any symptoms -- months before. No symptoms, there's prediction. She hopes it will be used for early intervention. Great! But now put this in the context of hiring.
Tenho uma amiga que desenvolveu esses sistemas informáticos, para prever a probabilidade de depressão clínica ou pós-parto a partir de dados de redes sociais. Os resultados são impressionantes. O sistema consegue prever a probabilidade de depressão meses antes do início de quaisquer sintomas — meses antes! Não há sintomas. É só previsão. Ela espera que isso seja usado para intervenção precoce. Ótimo! Mas agora coloquem isto no contexto da contratação.
So at this human resources managers conference, I approached a high-level manager in a very large company, and I said to her, "Look, what if, unbeknownst to you, your system is weeding out people with high future likelihood of depression? They're not depressed now, just maybe in the future, more likely. What if it's weeding out women more likely to be pregnant in the next year or two but aren't pregnant now? What if it's hiring aggressive people because that's your workplace culture?" You can't tell this by looking at gender breakdowns. Those may be balanced. And since this is machine learning, not traditional coding, there is no variable there labeled "higher risk of depression," "higher risk of pregnancy," "aggressive guy scale." Not only do you not know what your system is selecting on, you don't even know where to begin to look. It's a black box. It has predictive power, but you don't understand it.
Na conferência de gestores de recursos humanos, aproximei-me de uma gestora de alto nível de uma grande empresa e disse-lhe: "O que acha se, sem o seu conhecimento, "o seu sistema estiver a excluir pessoas com alto risco de futura depressão? "Não estão deprimidas agora, mas talvez no futuro, seja mais provável. "E se está a excluir as mulheres com maior probabilidade de engravidar "dentro de um ou dois anos mas que não estão grávidas agora? "E se está a contratar pessoas agressivas porque essa é a cultura da empresa? "Não nos apercebemos disso olhando par a repartição por sexos. Aí até pode estar equilibrado. Como isto é aprendizagem de máquina, e não codificação tradicional, não há lá nenhuma variável intitulada "maior risco de depressão", "maior risco de gravidez", "escala de agressividade". Não só não se sabe o que é que o sistema está a selecionar, como não se sabe por onde começar a procurar. É uma caixa preta. Tem poder preditivo, mas não conseguimos entendê-la.
"What safeguards," I asked, "do you have to make sure that your black box isn't doing something shady?" She looked at me as if I had just stepped on 10 puppy tails.
"Que garantia você tem", perguntei, "de que a sua caixa negra não está a fazer algo sombrio?" Ela olhou para mim como se tivesse pisado 10 cachorrinhos.
(Laughter)
(Risos)
She stared at me and she said, "I don't want to hear another word about this." And she turned around and walked away. Mind you -- she wasn't rude. It was clearly: what I don't know isn't my problem, go away, death stare.
Olhou para mim e disse: "Não quero ouvir nem mais uma palavra sobre isso." Virou-me as costas e foi-se embora. Ela não foi indelicada. Foi claramente: "O que eu não sei, não é problema meu. Desapareça." Olhar de morte.
(Laughter)
(Risos)
Look, such a system may even be less biased than human managers in some ways. And it could make monetary sense. But it could also lead to a steady but stealthy shutting out of the job market of people with higher risk of depression. Is this the kind of society we want to build, without even knowing we've done this, because we turned decision-making to machines we don't totally understand?
Notem que estes sistemas podem ser menos tendenciosos do que os gestores humanos, nalguns aspetos. E isso pode fazer sentido economicamente. Mas também pode levar ao fecho constante mas furtivo do mercado de trabalho para as pessoas com maior risco de depressão. Será este o tipo de sociedade que queremos construir, sem sequer saber que o fizemos, porque demos às máquinas a tomada de decisões que não compreendemos totalmente?
Another problem is this: these systems are often trained on data generated by our actions, human imprints. Well, they could just be reflecting our biases, and these systems could be picking up on our biases and amplifying them and showing them back to us, while we're telling ourselves, "We're just doing objective, neutral computation."
Outro problema é o seguinte: estes sistemas são treinados frequentemente com dados gerados pelas nossas ações, impressões humanas. Assim, poderão estar a refletir os nossos preconceitos. poderão estar a aprender os nossos preconceitos, a amplificá-los e a mostrá-los de novo, enquanto nós pensamos: "Estamos a ser objetivos, a informática é neutra".
Researchers found that on Google, women are less likely than men to be shown job ads for high-paying jobs. And searching for African-American names is more likely to bring up ads suggesting criminal history, even when there is none. Such hidden biases and black-box algorithms that researchers uncover sometimes but sometimes we don't know, can have life-altering consequences.
Investigadores verificaram que, no Google, os anúncios para empregos com salários elevados aparecem mais para homens do que para mulheres. E se procurarmos nomes de afro-americano encontramos mais resultados de anúncios sugerindo antecedentes criminais, mesmo quando não há nenhum. Estes preconceitos escondidos e algoritmos de caixa-negra que os investigadores por vezes descobrem, mas que por vezes nós não descobrimos, podem ter consequências capazes de mudar uma vida.
In Wisconsin, a defendant was sentenced to six years in prison for evading the police. You may not know this, but algorithms are increasingly used in parole and sentencing decisions. He wanted to know: How is this score calculated? It's a commercial black box. The company refused to have its algorithm be challenged in open court. But ProPublica, an investigative nonprofit, audited that very algorithm with what public data they could find, and found that its outcomes were biased and its predictive power was dismal, barely better than chance, and it was wrongly labeling black defendants as future criminals at twice the rate of white defendants.
No Wisconsin, um réu foi condenado a seis anos de prisão por fugir da polícia. Podem não saber, mas os algoritmos são utilizados para a liberdade condicional e as condenações. Este réu queria saber como era calculada a pontuação. É uma caixa preta comercial. A empresa recusou-se a ver o seu algoritmo questionado em tribunal aberto. Mas a ProPublica, uma agência de investigação sem fins lucrativos, auditou esse algoritmo com os dados públicos que encontrou, e descobriu que os resultados eram tendenciosos e o poder de previsão era pouco melhor que o acaso. E que estava a sinalizar erradamente réus negros como futuros criminosos duas vezes mais do que réus brancos.
So, consider this case: This woman was late picking up her godsister from a school in Broward County, Florida, running down the street with a friend of hers. They spotted an unlocked kid's bike and a scooter on a porch and foolishly jumped on it. As they were speeding off, a woman came out and said, "Hey! That's my kid's bike!" They dropped it, they walked away, but they were arrested.
Considerem o seguinte caso: Esta mulher estava atrasada para ir buscar a afilhada a uma escola no condado de Broward, Flórida e corria pela rua abaixo com uma amiga. Avistaram uma bicicleta e uma <i>scooter</i>, não amarradas, numa varanda e, parvoíce... levaram-nas. Quando estavam a acelerar, apareceu uma mulher que disse: "Ei! Essa bicicleta é do meu filho!" Largaram-nas e seguiram caminho, mas acabaram por ser presas.
She was wrong, she was foolish, but she was also just 18. She had a couple of juvenile misdemeanors. Meanwhile, that man had been arrested for shoplifting in Home Depot -- 85 dollars' worth of stuff, a similar petty crime. But he had two prior armed robbery convictions. But the algorithm scored her as high risk, and not him. Two years later, ProPublica found that she had not reoffended. It was just hard to get a job for her with her record. He, on the other hand, did reoffend and is now serving an eight-year prison term for a later crime. Clearly, we need to audit our black boxes and not have them have this kind of unchecked power.
Foi errado, foi uma parvoíce, mas ela só tinha 18 anos. Tinha alguns delitos juvenis. Entretanto, aquele homem já tinha sido preso por furto no Home Depot — um roubo de 85 dólares, um crime menor. Mas, para além disso, já tinha duas sentenças por assalto à mão armada. Mas o algoritmo marcou-a a ela como de alto risco, e não a ele. Dois anos depois, a ProPublica verificou que ela não tinha reincidido, mas tinha dificuldade em conseguir um emprego, devido ao cadastro. Ele, por outro lado, reincidiu e agora está a cumprir pena de oito anos por um crime cometido mais tarde. Necessitamos, claramente, de auditar as nossas caixas-negras e não deixá-las ter este poder sem controlo.
(Applause)
(Aplausos)
Audits are great and important, but they don't solve all our problems. Take Facebook's powerful news feed algorithm -- you know, the one that ranks everything and decides what to show you from all the friends and pages you follow. Should you be shown another baby picture?
As auditorias são ótimas e importantes, mas não solucionam todos os problemas. Considerem o poderoso algoritmo de notícias do Facebook, aquele que classifica e decide tudo o que vos mostram de todos os amigos e das páginas que vocês seguem. Deverão mostrar-vos outra foto de um bebé?
(Laughter)
(Risos)
A sullen note from an acquaintance? An important but difficult news item? There's no right answer. Facebook optimizes for engagement on the site: likes, shares, comments.
Uma nota mal-humorado de um conhecido? Uma notícia importante, mas incomodativa? Não há uma resposta certa. O Facebook otimiza para manter-vos ligado ao site: <i>likes</i>, partilhas, comentários.
In August of 2014, protests broke out in Ferguson, Missouri, after the killing of an African-American teenager by a white police officer, under murky circumstances. The news of the protests was all over my algorithmically unfiltered Twitter feed, but nowhere on my Facebook. Was it my Facebook friends? I disabled Facebook's algorithm, which is hard because Facebook keeps wanting to make you come under the algorithm's control, and saw that my friends were talking about it. It's just that the algorithm wasn't showing it to me. I researched this and found this was a widespread problem.
Em agosto de 2014, estalaram manifestações em Ferguson, no Missouri, após a morte de um jovem afro-americano infligida por um polícia branco, em circunstâncias pouco claras. As notícias dos protestos apareceram de todos o lados na minha conta de Twitter sem filtro de algoritmos, mas em parte alguma no meu Facebook. Foram os meus amigos no Facebook? Desativei o algoritmo do Facebook — o que é difícil, pois o Facebook insiste em voltar a incluir-nos sob o controlo do algoritmo — e vi que os meus amigos falavam disso. O algoritmo é que não me mostrava essa informação. Fiz pesquisas e verifiquei que era um problema generalizado.
The story of Ferguson wasn't algorithm-friendly. It's not "likable." Who's going to click on "like?" It's not even easy to comment on. Without likes and comments, the algorithm was likely showing it to even fewer people, so we didn't get to see this. Instead, that week, Facebook's algorithm highlighted this, which is the ALS Ice Bucket Challenge. Worthy cause; dump ice water, donate to charity, fine. But it was super algorithm-friendly. The machine made this decision for us. A very important but difficult conversation might have been smothered, had Facebook been the only channel.
A história de Ferguson não agradava ao algoritmo. Não era "simpática". Quem ia clicar em "Gosto"?" Nem é fácil de comentar. Sem <i>likes </i>e sem comentários, o algoritmo, provavelmente, mostrá-la-ia a menos pessoas, e assim nós não a conseguimos ver. Em vez disso, nessa semana, o algoritmo do Facebook destacava isto, o Desafio do Balde de Água Gelada. Uma causa digna: despejar água gelada; doar para a caridade. Tudo bem. Mas, para o algoritmo, era super amigável. A máquina tomou essa decisão por nós. Uma conversa muito importante mas também difícil podia ter sido abafada, se o Facebook fosse o único canal.
Now, finally, these systems can also be wrong in ways that don't resemble human systems. Do you guys remember Watson, IBM's machine-intelligence system that wiped the floor with human contestants on Jeopardy? It was a great player. But then, for Final Jeopardy, Watson was asked this question: "Its largest airport is named for a World War II hero, its second-largest for a World War II battle."
Finalmente, estes sistemas também podem cometer erros diferentes dos erros dos sistemas humanos. Lembram-se do Watson, a máquina de IA da IBM que eliminou os concorrentes humanos no Jeopardy? Foi um grande jogador. Mas, na final do Jeopardy, fizeram esta pergunta ao Watson: “Qual é a cidade cujo maior aeroporto tem o nome de um herói da II Guerra Mundial, “e o segundo maior aeroporto tem o nome de uma batalha da II Guerra Mundial?”
(Hums Final Jeopardy music)
Chicago. The two humans got it right. Watson, on the other hand, answered "Toronto" -- for a US city category! The impressive system also made an error that a human would never make, a second-grader wouldn't make.
Chicago. Os dois seres humanos acertaram. Watson, por outro lado, respondeu: Toronto! — para uma pergunta sobre cidades dos EUA! O impressionante sistema também cometeu um erro que um ser humano nunca iria fazer, que uma criança do 1.º ciclo não faria.
Our machine intelligence can fail in ways that don't fit error patterns of humans, in ways we won't expect and be prepared for. It'd be lousy not to get a job one is qualified for, but it would triple suck if it was because of stack overflow in some subroutine.
A inteligência artificial pode falhar de formas que não se encaixam nos padrões de erro dos seres humanos. de formas inesperadas e imprevistas. Seria péssimo não conseguir um emprego para o qual estamos qualificados, mas seria três vezes pior se fosse por causa de um erro de processamento de alguma sub-rotina.
(Laughter)
(Risos)
In May of 2010, a flash crash on Wall Street fueled by a feedback loop in Wall Street's "sell" algorithm wiped a trillion dollars of value in 36 minutes. I don't even want to think what "error" means in the context of lethal autonomous weapons.
Em maio de 2010, um acidente relâmpago em Wall Street provocado por uma auto alimentação no algoritmo de "vender", em Wall Street, fez perder um bilião de dólares em 36 minutos. Eu nem quero pensar o que significa "erro" no contexto de armas mortais autónomas.
So yes, humans have always made biases. Decision makers and gatekeepers, in courts, in news, in war ... they make mistakes; but that's exactly my point. We cannot escape these difficult questions. We cannot outsource our responsibilities to machines.
Sim. Os seres humanos sempre alimentaram preconceitos. Quem toma decisões e controla nos tribunais, nas notícias, na guerra ... comete erros. É esse exatamente o meu ponto. Nós não podemos fugir destas perguntas difíceis. Não podemos atribuir as nossas responsabilidades às máquinas.
(Applause)
(Aplausos)
Artificial intelligence does not give us a "Get out of ethics free" card.
A inteligência artificial não nos dá um cartão “Põe a ética de lado”.
Data scientist Fred Benenson calls this math-washing. We need the opposite. We need to cultivate algorithm suspicion, scrutiny and investigation. We need to make sure we have algorithmic accountability, auditing and meaningful transparency. We need to accept that bringing math and computation to messy, value-laden human affairs does not bring objectivity; rather, the complexity of human affairs invades the algorithms. Yes, we can and we should use computation to help us make better decisions. But we have to own up to our moral responsibility to judgment, and use algorithms within that framework, not as a means to abdicate and outsource our responsibilities to one another as human to human.
O cientista de dados Fred Benenson chama-lhe "lavagem de matemática". Precisamos é do oposto. Temos de cultivar algoritmos de suspeita, de análise e de investigação. Precisamos de garantir que assumimos a responsabilidade dos algoritmos, da auditoria e da transparência relevante. Precisamos de aceitar que trazer a matemática e a informática para os assuntos humanos, complicados e carregados de valores, não nos dá objetividade. Em vez disso, a complexidade dos assuntos humanos invade os algoritmos. Sim, podemos e devemos usar a informática para nos ajudar a tomar melhores decisões. Mas temos de assumir a responsabilidade moral do julgamento. e usar os algoritmos nesse âmbito, não como um meio para abdicar e subcontratar a nossa responsabilidade de ser humano para ser humano.
Machine intelligence is here. That means we must hold on ever tighter to human values and human ethics.
A inteligência artificial já chegou. O que significa que mais que nunca temos de nos agarrar afincadamente aos valores e à ética humana.
Thank you.
Obrigada.
(Applause)
(Aplausos)