Imagina’t un tramvia que avança sense control per una via cap a cinc treballadors que no poden escapar-se’n. Ets davant d'un interruptor que permet desviar el tramvia cap a una altra via. Però hi ha un problema, a l’altra via també hi ha un treballador, però només un. Què fas? Sacrifiques una persona per salvar-ne cinc? Aquest és el dilema del tramvia, la versió d’un dilema ètic pensat per la filòsofa Philippa Foot al 1967. És conegut perquè ens obliga a reflexionar com escollir, quan no hi ha cap opció bona. Triem l’acció amb el millor resultat, o ens aferrem a un codi moral que prohibeix causar la mort d’algú? En una enquesta, vora el 90% deia que seria correcte activar l’interruptor, deixant que un treballador mori per salvar-ne cinc, i altres estudis, com una simulació en realitat virtual, han arribat a resultats similars. Aquests judicis concorden amb el principi filosòfic de l'utilitarisme que defensa que la decisió moralment correcta és aquella que maximitza el benestar per al major nombre de persones. Cinc vides pesen més que una, encara que salvar-les requereixi condemnar algú a la mort. Però no sempre adoptem una perspectiva utilitarista, tal com podem veure si alterem una mica el dilema. Aquest cop, ets dalt d’un pont sobre les vies i el tramvia s'acosta. No hi ha segona via, però al teu costat hi ha un home molt gros. Si l’empenys, el seu cos aturarà el tramvia, i salvaràs els cinc treballadors, però ell morirà. Pels partidaris de l’utilitarisme, la decisió és la mateixa, perdre una vida per salvar-ne cinc. Però en aquest cas, només al 10% de la gent li semblava bé empènyer l’home a la via. Els nostres instints ens fan pensar que causar la mort deliberadament és diferent de deixar morir com a dany col·lateral. Això ens fa sentir incòmodes per raons difícils d’explicar. Aquesta intersecció entre ètica i psicologia és el que fa tan interessant el dilema del tramvia. El dilema en les seves diferents versions revela que allò que considerem bo o dolent no depèn només de la ponderació lògica dels avantatges i inconvenients. Per exemple, els homes són més propensos que les dones a dir que és correcte empènyer l’home pel pont. I també ho són les persones que veuen un esquetx de comèdia abans de decidir. I, en un estudi de realitat virtual, les persones estaven més disposades a sacrificar homes que dones. Els investigadors han analitzat l’activitat cerebral de persones pensant sobre la versió clàssica i la del pont. Ambdós escenaris activen àrees del cervell implicades en la presa de decisions conscients i la resposta emocional. Però en la versió del pont, la resposta emocional és molt més forta. I també l'activitat en l'àrea del cervell associada amb el processament de conflictes interns. Per què aquesta diferència? Una explicació seria que empènyer algú a la mort ens sembla més personal, i això activa una aversió emocional cap a l’acte de matar una persona, però ens sentim dividits perquè sabem que és la decisió lògica. El dilema del tramvia ha sigut criticat per alguns filòsofs i psicòlegs. Argumenten que no revela res perquè la premissa és tan poc realista que els participants no se la prenen seriosament. Però les noves tecnologies fan que aquest tipus d’anàlisi ètic sigui més important que mai. Per exemple, els cotxes autònoms podrien haver d'afrontar decisions com la de causar un petit accident per evitar-ne un de més greu. Mentrestant, els governs fan recerca en drons militars autònoms que podrien acabar prenent la decisió d’arriscar vides civils per atacar un objectiu important. Si volem que aquestes decisions siguin ètiques, hem de decidir a l’avançada com valorar la vida humana i jutjar què és millor. Per això, els investigadors de sistemes autònoms col·laboren amb filòsofs per abordar la complexitat de programar l’ètica en màquines, i això mostrarà que fins i tot el dilema més hipotètic pot acabar topant amb el món real.
Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one. What do you do? Do you sacrifice one person to save five? This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death? In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results. These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death. But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit. This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die. To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain. This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons. For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women. Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice. "Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously. But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good. So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.