Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Kuvittele, että huomaat karanneen vaunun kulkevan raiteilla kohti viittä työläistä, jotka eivät voi paeta sen alta. Satut seisomaan paikalla, jossa on vaihde, jolla voit siirtää vaunun toiselle raiteelle. Ongelma on seuraava. Tälläkin raiteella on työläinen, mutta vain yksi.
What do you do? Do you sacrifice one person to save five?
Mitä teet? Uhraisitko yhden hengen pelastaaksesi viisi?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Tämä on vaunuongelma, Philippa Footin vuonna 1967 esittämän dilemman yksi versio. Se on suosittu, sillä se pakottaa meidät pohtimaan valintojamme, kun hyviä vaihtoehtoja ei ole. Valitsemmeko parhaat seuraukset vai noudatammeko sääntöä "älä tapa"?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Yhdessä tutkimuksessa noin 90% vastaajista ajatteli, että on oikein antaa yhden kuolla viiden pelastamiseksi, ja muissa tutkimuksissa, joista yksi oli dilemman virtuaalisimulaatio, tulokset ovat samanlaisia.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Tällainen ajattelu sopii yhteen utilitarismin kanssa. Sen mukaan moraalisesti oikea päätös on sellainen, joka tuottaa eniten hyötyä useimmille. Viisi elämää on enemmän kuin yksi, vaikka niiden pelastamiseksi on tuomittava joku kuolemaan.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Ihmiset eivät kuitenkaan aina valitse utilitatistisesti, mikä käy ilmi, kun muunnetaan vaunuongelmaa hiukan.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Tällä kertaa olet sillalla raiteen yllä kun karannut vaunu lähestyy. Toista raidetta ei ole, mutta vierelläsi sillalla on tosi iso mies. Jos työnnät hänet alas, hänen kehonsa pysäyttää vaunun ja säästää viisi henkeä, mutta mies kuolee.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Utilitaristeille päätös pysyy samana, yksi vastaan viisi ihmishenkeä. Kuitenkin vain 10 % ihmisistä sanoo tässä tilanteessa, että on OK työntää mies radalle. Vaistomaisesti tiedämme, että tahallinen teko ihmisen tappamiseksi on eri asia kuin se, että annamme hänen kuolla sivuseurauksena teosta. Se tuntuu väärältä syistä, joita on vaikea selittää.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Etiikan ja psykologian risteys tekee vaunuongelmasta kiinnostavan. Dilemma paljastaa eri versioina, että ajatuksemme oikeasta ja väärästä riippuu myös muusta kuin seurausten punnitsemisesta.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Miehet sanovat naisia useammin, että on OK työntää mies sillalta. Samoin ajattelevat ihmiset, jotka ovat juuri katsoneet komediaa. Yhdessä virtuaalisessa kokeessa mies uhrattiin naista helpommin.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
On tutkittu aivojen aktiivisuutta, kun ihmiset miettivät tavallista tai siltaversiota. Molemmat versiot aktivoivat aivojen päätöksentekoalueita ja tunnealueita. Siltaversiossa tunnevaste on kuitenkin vahvempi. Samoin aktiivisena näkyy alue, jolla prosessoidaan sisäisiä ristiriitoja. Mistä ero johtuu? Ehkä siltaversio tuntuu henkilökohtaisemmalta ja aktivoi siksi tappamiseen liittyvän kielteisen tunnereaktion, mutta tunnemme ristiriidan, kun järki ohjaa valitsemaan toisin.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Vaunuetiikkaa ovat kritisoineet jotkut filosofit ja psykologit. Heidän mukaansa ajatuskoe ei paljasta mitään, koska se on niin epärealistinen, että koehenkilöt eivät ota koetta vakavasti.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Uusi teknologia tekee tällaisesta eettisestä analyysistä silti entistä tärkeämpää. Esimerkiksi itseohjautuvien autojen on tehtävä valintoja kuten pieni onnettomuus ison estämiseksi. Hallitukset tutkivat robottidrooneja, jotka päättävät itsenäisesti siviileihin kohdistuvista riskeistä tärkeisiin kohteisiin hyökättäessä. Jos haluamme näiden toimivan eettisesti, on päätettävä etukäteen, kuinka arvokas on ihmishenki ja miten arvioida suurempi hyvä.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Niinpä tutkijat kohteenaan autonomiset koneet tekevät yhteistyötä filosofien kanssa koneiden etiikan ohjelmoinnin mutkikkaiden ongelmien parissa. Hypoteettiset dilemmat voivat siis ajatua törmäyskurssille todellisen maailman kanssa.