Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Wyobraź sobie kolejkę pędzącą po torach wprost na pięciu robotników, którzy nie mają jak uciec. Stoisz obok dźwigni, która przekieruje kolejkę na drugi tor. Ale jest problem. Na drugim torze też stoi robotnik.
What do you do? Do you sacrifice one person to save five?
Co zrobisz? Czy uratujesz pięć osób kosztem jednej?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
To dylemat wagonika, eksperyment etyczny stworzony przez filozof Philippę Foot w 1967 roku. Zyskał popularność, bo zmusza do refleksji nad tym, co wybrać, kiedy nie ma dobrego wyjścia. Czy postąpimy zgodnie z najlepszym rezultatem, czy kodeksem moralnym, który zabrania zabijania?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
W badaniu około 90% respondentów odpowiedziało, że pociągnęłoby za dźwignię i poświęciło życie jednego robotnika, aby uratować pięciu. Podobne wyniki dały badania z wirtualną symulacją dylematu. Opinie te są zgodne z filozoficzną zasadą utylitaryzmu,
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
która mówi, że najwłaściwsza moralnie jest decyzja maksymalizująca dobro jak największej liczby osób. Pięć istnień znaczy więcej niż jedno, nawet jeśli będzie to oznaczało skazanie kogoś na śmierć. Ale ludzie nie zawsze dokonują utylitarystycznych wyborów,
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
co można łatwo zauważyć, jeśli zmienimy zasady dylematu. Tym razem stoisz na moście nad torami
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
tuż przed przyjazdem kolejki. Nie ma drugiego toru, ale obok ciebie na moście stoi otyły człowiek. Jeśli go popchniesz, swoim ciałem zatrzyma kolejkę i uratuje pięciu robotników, ale sam zginie. Utylitaryści nie zmieniają decyzji.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Poświęcą jedną osobę, żeby uratować pięć. Ale w tym wypadku tylko 10% badanych uważa, że można zepchnąć człowieka z mostu. Instynkt mówi nam, że celowe spowodowanie śmierci to co innego, niż przyzwolenie na śmierć jako skutek uboczny. Choć trudno to wyjaśnić, wydaje nam się to złe.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
To dzięki skrzyżowaniu etyki z psychologią dylemat wagonika jest tak ciekawy. Różne wersje dylematu pokazują, że postrzeganie dobra i zła zależy nie tylko od logicznego bilansu zysków i strat.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Mężczyźni częściej niż kobiety odpowiadali, że zepchnęliby człowieka z mostu. Podobnie jak uczestnicy, którym przed badaniem pokazano komedię. W badaniu z wirtualną rzeczywistością uczestnicy woleli poświęcić mężczyznę niż kobietę.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Naukowcy badali aktywność mózgu uczestników wersji klasycznej i wersji z mostem. Obie wersje aktywują obszary mózgu odpowiadające za świadome decyzje i reakcje emocjonalne. Ale w wersji z mostem reakcja emocjonalna była silniejsza. Większa była też aktywność obszaru mózgu odpowiadająca za rozważanie wewnętrznych konfliktów. Skąd ta różnica? Może zrzucanie kogoś z mostu wydaje się bardziej osobiste, aktywując emocjonalną niechęć do zabicia drugiej osoby. Jednocześnie czujemy się rozdarci, bo wiemy, że to wybór logiczny.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Część filozofów i psychologów krytykuje dylemat wagonika. Ich zdaniem nie dowodzi on niczego, bo jego założenia są tak nierealne, że uczestnicy nie traktują ich poważnie.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Rozwój technologii sprawia jednak, że ten rodzaj analizy etycznej jest ważniejszy niż kiedykolwiek. Na przykład samochody bez kierowcy mogą być zmuszone dokonać wyborów takich jak spowodowanie mniejszego wypadku. Rządy pracują nad samodzielnymi dronami wojskowymi, które być może zdecydują, czy poświęcić życie cywilów, żeby zaatakować strategiczny cel. Jeśli chcemy, żeby wybierały etycznie, musimy zawczasu zdecydować, na ile cenimy ludzkie życie i czy wybieramy mniejsze zło.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Dlatego przy tworzeniu systemów decyzyjnych naukowcy współpracują z filozofami, aby rozwiązać problem etyki w działaniu maszyn. To pokazuje, że nawet z hipotetycznymi dylematami możemy kiedyś zetknąć się w rzeczywistości.