Stell dir vor, du siehst einen Straßenbahnwagen die Gleise entlangrasen und direkt auf fünf Arbeiter zusteuern, die nicht fliehen können. Zufällig stehst du neben einer Weiche, die den Waggon auf ein zweites Gleis umleiten kann. Hier ist das Problem: Auf jenem Gleis gibt es auch einen Arbeiter, aber nur einen.
Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Was tust du? Opferst du einen Menschen, um fünf zu retten?
What do you do? Do you sacrifice one person to save five?
Das ist das Trolley-Problem, eine Version eines ethischen Dilemmas, das 1967 von der Philosophin Philippa Foot entwickelt wurde. Es ist beliebt, weil es uns zwingt, eine Entscheidung zu treffen, wenn es keine guten Optionen gibt. Wählen wir die Handlung mit dem besten Resultat oder halten wir uns an einen Moralkodex, der es uns verbietet, einen Tod zu verursachen?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
In einer Umfrage fanden es 90 % der Befragten in Ordnung, die Weiche umzustellen und einen Arbeiter sterben zu lassen, um fünf zu retten. Andere Studien, darunter eine virtuelle Realitätssimulation des Dilemmas, kamen zu ähnlichen Ergebnissen.
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Diese Urteile entsprechen dem philosophischen Prinzip des Utilitarismus, nachdem die moralisch richtige Entscheidung das Wohlergehen für die größte Anzahl an Menschen maximiert. Die fünf Leben überwiegen eines, selbst wenn das Ergebnis den Tod einer Person in Kauf nimmt.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Aber Menschen wählen nicht immer die utilitaristische Sichtweise, was klarer wird, wenn wir das Trolley-Problem leicht verändern.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Dieses Mal stehst du auf einer Brücke über dem Gleis, als der abgekoppelte Waggon sich nähert. Jetzt gibt es kein zweites Gleis, aber einen sehr großen Mann neben dir auf der Brücke. Wenn du ihn umstößt, hält sein Körper den Waggon auf und rettet die fünf Arbeiter. Er aber wird sterben.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Für Utilitaristen bleibt die Entscheidung genau gleich: ein Leben verlieren, um fünf zu retten. Doch in diesem Fall sagten nur 10 % der Menschen, dass es in Ordnung sei, den Mann auf das Gleis zu stoßen. Unser Instinkt sagt uns, dass das vorsätzliche Verursachen eines Todes anders ist, als jemanden als Kollateralschaden sterben zu lassen. Es fühlt sich aus schwer erklärbaren Gründen falsch an.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Dieser Schnittpunkt zwischen Ethik und Psychologie macht das Trolley-Problem so interessant. Das Dilemma in allen Variationen zeigt, dass unsere Empfindung für Richtig oder Falsch von mehr Faktoren abhängt als dem logischen Abwägen des Für und Wider.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Zum Beispiel sagen mehr Männer als Frauen, dass es in Ordnung sei, den Mann von der Brücke zu stoßen. Genauso war es auch mit Menschen, die vor dem Gedankenexperiment ein Comedy-Video sahen. In einer virtuellen Realitätsstudie waren Leute eher bereit, Männer zu opfern als Frauen.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women. Researchers have studied the brain activity
Forscher haben die Gehirnaktivität bei Menschen untersucht, die über die klassische und die Brückenversion nachdachten. Beide Szenarien aktivieren Gehirngegenden, die an bewusster Entscheidungsfindung und emotionaler Reaktion beteiligt sind. Doch in der Brückenvariante ist die emotionale Reaktion viel stärker. Ebenso die Aktivität in der Gehirngegend, die mit der Verarbeitung innerer Konflikte zu tun hat. Woher der Unterschied? Eine Erklärung ist, dass es sich persönlicher anfühlt, jemanden in den Tod zu stoßen. Das aktiviert eine emotionale Abneigung gegen das Töten einer anderen Person, aber wir sind im Zwiespalt, weil es doch die logische Wahl wäre.
of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice. "Trolleyology" has been criticized by some philosophers and psychologists.
Das Trolley-Problem wurde von einigen Philosophen und Psychologen kritisiert. Sie bestreiten dessen Aussagekraft, da die Situation so unrealistisch sei, dass Studienteilnehmer sie nicht ernst nähmen.
They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Doch neue Technologien machen diese Art der ethischen Analyse wichtiger denn je. Zum Beispiel müssten fahrerlose Autos abwägen, ob sie mit einem kleinen Unfall einen größeren verhindern sollen. Gleichzeitig erforschen Regierungen autonome Militärdrohnen, die Entscheidungen treffen könnten, ob sie Zivilopfer riskieren sollen, um ein hochrangiges Ziel zu treffen. Wenn diese Handlungen ethisch sein sollen, müssen wir im Vorhinein festlegen, wie Menschenleben zu bewerten sind, und das Gemeinwohl abschätzen.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Forscher, die autonome Systeme erforschen, arbeiten deshalb mit Philosophen, um das komplexe Problem zu bewältigen, Ethik in Maschinen einzuprogrammieren. Das zeigt wiederum, dass selbst hypothetische Dilemmas mit der realen Welt kollidieren könnten.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.