Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Imagina que estás viendo un tren fuera de control por las vías que va hacia cinco trabajadores que no pueden escapar. Te encuentras junto a un interruptor que permite desviar el tren a una segunda vía. Este es el problema. En esa vía también hay un trabajador, pero solo uno.
What do you do? Do you sacrifice one person to save five?
¿Qué haces? ¿Sacrificas a una persona para salvar a cinco?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Este es el problema del tren, una versión de un dilema ético que la filósofa Philippa Foot pensó en 1967. Es popular porque nos obliga a pensar cómo elegir cuando no hay buenas opciones. ¿Elegimos la acción que da el mejor resultado o nos apegamos a un código moral que prohíbe causar la muerte a alguien?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
En un estudio un 90 % de los encuestados dijo que está bien girar el interruptor, dejar que muera un trabajador para salvar a cinco. Y otros estudios, que incluyen una simulación del dilema, han encontrado resultados similares.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Estos juicios son coherentes con el principio filosófico del utilitarismo que sostiene que la decisión moralmente correcta es el que maximiza el bienestar para el mayor número de personas. Cinco vidas superan a una, incluso si el logro de ese resultado requiere condenar a muerte a alguien.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Pero la gente no siempre tiene la visión utilitarista, algo que podemos ver cambiando un poco el problema del tren.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Esta vez, estás parado en un puente sobre la vía conforme se acerca el tren fuera de control. Ahora no hay una segunda vía, pero hay un hombre muy grande en el puente a tu lado. Si lo empujas, su cuerpo detendrá el tren, salvando a los cinco trabajadores, pero morirá.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Para los utilitaristas, la decisión es exactamente la misma, perder una vida para salvar cinco. Pero en este caso, solo un 10 % de las personas dice que está bien arrojar al hombre a las vías. El instinto nos dice que deliberadamente causar la muerte de alguien es diferente que dejar que muera como un daño colateral. Parece incorrecto por razones difíciles de explicar.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Esta intersección entre la ética y la psicología es lo que hace tan interesante el problema del tren. El dilema en sus muchas variaciones revela que lo que creemos correcto o incorrecto depende de factores distintos de un peso lógico de pros y contras.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Por ejemplo, es más probable que los hombres digan que está bien empujar al hombre al puente, a que lo digan las mujeres. Algunos ven un clip de comedia antes de hacer el experimento mental. Y en un estudio de realidad virtual, esa gente estaba más dispuesta a sacrificar a hombres que a mujeres.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Los investigadores han estudiado la actividad cerebral de la gente que piensa las versiones clásica y la del puente. Ambos escenarios activan áreas del cerebro de toma de decisiones conscientes y respuestas emocionales. Pero en la versión del puente, la respuesta emocional es mucho más fuerte. Y también la actividad en un área del cerebro asociada al procesamiento del conflicto interno. ¿Por qué la diferencia? Una explicación es que empujar a alguien a la muerte se vive como más personal, y activa una aversión emocional a matar a otra persona, pero nos sentimos en conflicto porque sabemos que es la decisión lógica.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
La troleología ha sido criticada por algunos filósofos y psicólogos. Argumentan que no revela nada pues su premisa es tan poco realista que los participantes del estudio no lo toman en serio.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Pero la nueva tecnología está haciendo que este tipo de análisis ético sea más importante que nunca. Por ejemplo, los autos sin conductor pueden tener que manejar opciones como causar un pequeño accidente para evitar uno mayor. Mientras tanto, los gobiernos están investigando drones militares autónomos que podrían eliminar el tener que tomar la decisión de arriesgar víctimas civiles para atacar un objetivo de alto valor. Si queremos que estas acciones sean éticas, tenemos que decidir de antemano cómo valorar la vida humana y juzgar el bien mayor.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Por eso los investigadores que estudian los sistemas autónomos están colaborando con los filósofos para resolver el problema complejo de programar la ética en las máquinas, algo que muestra que incluso los dilemas hipotéticos pueden terminar colisionando con el mundo real.