Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Imagine que você está vendo um trem correndo sobre trilhos em direção a cinco trabalhadores que não podem escapar. Você está ao lado de uma alavanca que pode desviar o trem para uma segunda faixa. Aqui está o problema: essa faixa tem um trabalhador também, mas apenas um.
What do you do? Do you sacrifice one person to save five?
O que você faz? Você sacrifica uma pessoa para salvar cinco?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Este é o problema do trem, uma versão de um dilema ético criado pelo filósofo Philippa Foot em 1967. Ele é popular porque nos obriga a pensar sobre como escolher quando não há boas escolhas. Nós escolhemos a ação com o melhor resultado ou nos prendemos a um código moral que proíbe causar a morte de alguém?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Em uma pesquisa, 90% dos entrevistados disseram que usariam a alavanca, deixando um trabalhador morrer para salvar cinco, e outros estudos, incluindo uma simulação de realidade virtual do dilema, encontraram resultados semelhantes.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Estes julgamentos são consistentes com o princípio filosófico do utilitarismo que argumenta que a decisão moralmente correta é aquela que maximiza o bem-estar para o maior número de pessoas. As cinco vidas superam uma, mesmo que para alcançar esse resultado seja preciso condenar alguém à morte.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Mas as pessoas nem sempre têm a visão utilitarista, e isso pode ser visto mudando um pouco o problema do trem.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Agora você está numa ponte sobre a faixa enquanto o trem se aproxima. Não há mais uma segunda faixa, mas tem um homem grande na ponte ao lado de você. Se você empurrá-lo nos trilhos, seu corpo vai parar o trem, e salvar os cinco trabalhadores, mas ele vai morrer.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Para os utilitaristas, a decisão é exatamente a mesma, perder uma vida para salvar cinco. Mas neste caso, apenas cerca de 10% das pessoas disseram que jogariam o homem nos trilhos. Nossos instintos nos dizem que causar a morte de alguém deliberadamente é diferente de deixar alguém morrer como dano colateral. Parece errado por motivos difíceis de explicar.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Esta intersecção entre ética e psicologia é o que há de tão interessante sobre o problema do trem. O dilema em suas muitas variações revela que o que nós pensamos ser certo ou errado depende de outros fatores além de um equilíbrio lógico de prós e contras.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Por exemplo, os homens são mais propensos do que as mulheres em dizer que empurrariam o homem da ponte. Assim como as pessoas que veem um vídeo de comédia antes de fazer sua escolha. Em um estudo de realidade virtual, as pessoas estavam mais dispostas a sacrificar homens do que mulheres.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Os investigadores estudaram a atividade cerebral das pessoas que passaram pela versão clássica e a versão da ponte. Ambas as versões ativam áreas cerebrais envolvidas em tomada de decisão consciente e respostas emocionais. Mas na versão da ponte, a resposta emocional é muito mais forte. Assim como a atividade de uma área do cérebro associada com o processamento de conflito interno. Por que essa diferença? Uma explicação é que empurrar alguém para a morte parece ser mais pessoal, ativando uma aversão emocional ao ato de matar outra pessoa, mas nos sentimos em conflito pois sabemos que é a escolha lógica.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
O problema do trem tem sido criticado por alguns filósofos e psicólogos. Eles argumentam que ele não revela nada, porque a sua premissa é tão irreal que os participantes do estudo não a levam a sério.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Mas novas tecnologias estão tornando este tipo de análise ética mais importante do que nunca. Por exemplo, os carros autônomos podem precisar fazer escolhas como causar um pequeno acidente para evitar um maior. Além disso, os governos estão pesquisando "drones" militares autônomos que podem acabar tomando decisões sobre o risco de baixas civis para atingir um alvo importante. Se quisermos que essas ações sejam éticas, temos de decidir com antecedência como valorizar a vida humana e julgar o bem maior.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Os pesquisadores que estudam sistemas autônomos estão colaborando com os filósofos para abordar o problema complexo da programação de ética em máquinas, o que mostra que mesmo os dilemas mais hipotéticos podem acabar em rota de colisão com o mundo real.