Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Imaginem que veem um elétrico descontrolado pelos carris abaixo em direção a cinco trabalhadores que não podem fugir. Acontece que estão ao pé de uma agulha que desviará o elétrico para uma outra linha. Mas há um problema. Nessa linha também há um trabalhador, mas apenas um.
What do you do? Do you sacrifice one person to save five?
O que é que fazem? Sacrificam uma pessoa para salvar cinco?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Este é o problema do elétrico, uma versão de um dilema ético que a filósofa Philippa Foot concebeu em 1967. É muito conhecido porque nos obriga a pensar como escolher quando não há nenhuma opção boa. Optamos pela ação com o melhor resultado? Ou agarramo-nos a um código moral que proíbe causar a morte de alguém?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Num inquérito, cerca de 90% dos inquiridos disseram que era melhor manobrar a agulha, fazendo morrer um trabalhador para salvar cinco. E outros estudos, incluindo uma simulação virtual do dilema, chegaram ao mesmo resultado.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Este julgamento é coerente com o princípio filosófico do utilitarismo que defende que a decisão moralmente correta é a que maximiza o bem-estar para o maior número de pessoas. As cinco vidas superam uma, mesmo que, para chegar a esse resultado, seja preciso condenar alguém à morte.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Mas nem sempre as pessoas adotam a perspetiva utilitarista, como podemos ver, se alterarmos um pouco o problema do elétrico.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Desta vez, está numa ponte por cima da linha do elétrico quando se aproxima o elétrico descontrolado. Não há mais nenhuma linha mas há um homem muito grande na ponte, ao teu lado. Se o empurrares, o corpo dele fará parar o elétrico, salvando os cinco trabalhadores, mas ele morrerá.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Para os utilitaristas, a decisão é exatamente a mesma, sacrificar uma vida para salvar cinco. Mas neste caso, só 10% de pessoas dizem que é melhor atirar o homem para a linha. O nosso instinto diz-nos que causar a morte a alguém, deliberadamente, é diferente de permitir que alguém morra como um dano colateral. Sentimos que isso é errado por razões difíceis de explicar.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
É esta interseção entre a ética e a psicologia que é muito interessante no problema do elétrico. O dilema nas suas muitas variações revela que aquilo que pensamos ser correto ou errado, depende de fatores diferentes de uma avaliação lógica dos prós ou contras,
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Por exemplo, há mais homens que mulheres a dizer que é melhor empurrar o homem da ponte. O mesmo acontece com as pessoas que veem um vídeo cómico antes de responder a este dilema. Num estudo da realidade virtual, as pessoas preferiam sacrificar homens a mulheres.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Os investigadores estudaram a atividade do cérebro de pessoas que refletiam sobre a versão clássica e a da ponte. Ambos os cenários ativam áreas do cérebro envolvidas na tomada de decisões conscientes e em respostas emocionais. Mas na versão da ponte, a resposta emocional é muito mais forte. O mesmo acontece numa área do cérebro associada ao processamento de conflitos internos. Porquê esta diferença? Uma explicação é que empurrar alguém para a morte é sentido de forma mais pessoal, ativando uma aversão emotiva a matar outra pessoa,
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
mas sentimo-nos divididos porque sabemos que continua a ser a opção lógica. O problema do elétrico tem sido criticado por alguns filósofos e psicólogos que argumentam que não revela nada porque a premissa é tão irrealista que os participantes do estudo não a levam a sério.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Mas a nova tecnologia está a tornar este tipo de análise ética mais importante do que nunca. Por exemplo, os carros sem condutor podem ter que fazer escolhas como causar um pequeno acidente para evitar outro maior. Entretanto, os governos investigam os drones militares autónomos que podem levar à tomada de decisões sobre se vão correr o risco de vítimas civis para atacar um objetivo de grande valor. Se queremos que estas ações sejam éticas, temos que decidir de antemão como valorizar a vida humana e avaliar o maior bem.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Por isso, os investigadores que estudam sistemas autónomos estão a colaborar com filósofos para abordar este problema complexo de programar a ética nas máquinas, o que acaba por mostrar que, mesmo os dilemas hipotéticos podem entrar em conflito com o mundo real.