Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Képzeld el, hogy egy elszabadult villamos vágtat a síneken, egyenesen öt dolgozó felé, akik nem tudnak elmenekülni. Te éppen egy kapcsoló mellett állsz, ami egy másik sínre tereli át a villamost. De van egy kis probléma Azon a sínen is van egy dolgozó, de csak egy.
What do you do? Do you sacrifice one person to save five?
Mit teszel? Feláldozol egy embert, hogy megments ötöt?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Ez a villamosprobléma, az etikai dilemma egy változata, melyet Philippa Foot talált ki 1967-ben. Azért népszerű, mert elgondolkodtat, hogyan válasszunk, amikor nincs jó megoldás. A legelfogadhatóbb következményt választjuk, vagy tartjuk magunkat az erkölcshöz, mely tiltja más ember életének kioltását?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Egy felmérésben a válaszadók 90 százaléka szerint helyes elfordítani a kapcsolót, feláldozni egy munkást, hogy megmentsünk ötöt, és más felmérések, melyekben virtuális valóság szimulátorokat használtak, hasonló eredményt kaptak.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Ezek a döntések egyeznek a haszonelvűség filozófiai elveivel, mely szerint az erkölcsileg helyes döntés az, mely több ember jólétét garantálja. Öt élet többet ér egynél, még akkor is, ha ez valaki halálát okozza.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
De az emberek nem mindig a haszonelvű nézetet választják, amit akkor láthatunk, ha a villamos problémát módosítjuk egy picit.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Ez alkalommal egy hídon állsz a sínek felett, miközben közeledik az elszabadult villamos. Most nincs másik sín, de van melletted egy nagyon nagy ember. Ha őt lelököd, a teste megállítja a villamost, ezzel öt munkást mentesz meg, de ő meghal.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
A haszonelvűek a döntése változatlan, egy élet elveszik öt másikért. De ebben az esetben csak az emberek 10 százaléka szerint helyes lelökni az embert a sínekre. Az ösztöneink azt súgják, hogy egy ember halálát okozni szándékosan más, mint hagyni valakit meghalni, mint járulékos veszteség. Nehéz elmagyarázni miért, de érezzük, hogy nem helyes.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Az etika és a pszichológia közti kereszteződés teszi érdekessé a villamos problémát. A dilemma más változatai mutatják meg, hogy szerintünk mi helyes vagy helytelen, a tényeken alapul, nem csak a logikus érvektől és ellenérvektől függ.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Például, a nőkkel szemben a férfiak inkább gondolják úgy, hogy helyes lelökni a hídról az embert. Ugyanúgy mint azok, akik a kísérlet előtt megnéznek egy vicces videót. Egy virtuális valóság tanulmányban pedig az emberek előbb áldozták fel a férfiakat, mint a nőket.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
A kutatók tanulmányozták az emberek agyműködését, miközben a klasszikus és a hidas változaton gondolkodtak. Mindkét esetben az agy tudatos, döntéshozó területe volt aktív, valamint az érzelmi reakciók. De a híd változatnál az érzelmi reakció sokkal erősebb. Csak úgy, mint az agy azon része, amely a belső konfliktusok feldolgozásért felel. Hogy mi a különbség? Az egyik magyarázat az, hogy valakit a halálba lökni sokkal jobban megérint, mely aktiválja egy másik ember megölésétől való irtózást, de ez ellentmondásos, mert tudjuk, hogy mégiscsak ez a logikus döntés.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Egyes filozófusok és pszichológusok kritizálták a villamos problémát. Szerintük nem mutat meg semmit, mert annyira valószínűtlen az elképzelés, hogy a tanulmány résztvevői nem veszik komolyan.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
De az új technológia miatt az efféle etikai elemzés fontosabb, mint valaha. Például, a vezető nélküli autók ilyen választás elé kerülhetnek, inkább okoznak egy kisebb balesetet, hogy egy nagyobbat megakadályozzanak. Eközben a kormányok autonóm harci drón kutatást végeznek, melyek akár civil áldozatokról is dönthetnek egy fontosabb célpont megtámadásának érdekében. Ha azt akarjuk, hogy ezek a tettek etikusak legyenek, előre el kell dönteni, hogyan értékeljük az emberi életet és miként ítéljük meg a nemesebb célt.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
A kutatók, akik az autonóm rendszereket tanulmányozzák, filozófusokkal dolgoznak együtt, hogy megoldják az etikának a gépekbe történő bonyolult programozását, ami megmutatja, hogy még az elméleti dilemmák is összeütközést okozhatnak a valóságban.