Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Immaginate di vedere un carrello che precipita giù dai binari dritto verso cinque operai che non possono sfuggire. Siete vicino a uno scambio che devierà il carrello su un secondo binario. Ecco il problema. Anche su quel binario c'è un operaio, ma solo uno.
What do you do? Do you sacrifice one person to save five?
Cosa fate? Sacrificate una persona per salvarne cinque?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Questo è il problema del carrello, la versione di un dilemma etico concepito dalla filosofa Philippa Foot nel 1967. È noto perché ci obbliga a pensare a come scegliere quando non ci sono scelte giuste. Scegliamo la soluzione con il miglior risultato o ci atteniamo a un codice morale che proibisce di causare morti?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
In un sondaggio, 90% degli intervistati dice che va bene azionare lo scambio, lasciando morire un operaio invece di cinque, e altri studi, compresa una versione in realtà virtuale del dilemma, sono arrivati a risultati simili.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Questi giudizi sono coerenti con il principio filosofico dell'utilitarismo che sostiene che la decisione morale corretta è quella che massimizza il benessere per il maggior numero di persone. Cinque vite valgono più di una,
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
anche se arrivare a quel risultato significa condannare qualcuno a morte. Ma non sempre scegliamo la visione utilitaristica,
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
che vediamo cambiando leggermente il problema del carrello. Questa volta, siete su un ponte sopra il binario mentre il carrello in movimento si avvicina. Non c'è un secondo binario, ma c'è un uomo corpulento sul ponte vicino a voi. Se lo spingete giù, il suo corpo fermerà il carrello, salvando i cinque operai,
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
ma lui morirà. Per gli utilitaristi, la decisione è esattamente la stessa, perdere una vita per salvarne cinque. Ma in questo caso, solo il 10 per cento circa dice che va bene spingere l'uomo sui binari. Il nostro istinto ci dice che causare deliberatamente la morte di qualcuno è diverso dal lasciarlo morire come danno collaterale.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Sembra sbagliato per motivi difficili da spiegare. Questa intersezione tra etica e psicologia è la cosa interessante del problema del carrello. Il dilemma nelle sue tante varianti rivela che quello che pensiamo essere giusto o sbagliato
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
dipende da fattori diversi da una valutazione logica di pro e contro. Per esempio, gli uomini sono più inclini delle donne a essere d'accordo a spingere l'uomo giù dal ponte. Lo stesso vale per persone che guardano una commedia prima di fare l'esperimento. E in uno studio virtuale,
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
la gente è più incline a sacrificare gli uomini delle donne. Ricerche hanno studiato l'attività cerebrale delle persone che pensano alla versione classica e del ponte. I due scenari attivano aree del cervello coinvolte nelle decisioni coscienti e nelle reazioni emotive. Ma nella versione del ponte, la reazione emotiva è molto più forte. L'attività in un'area del cervello è associata con l'elaborazione del conflitto interno. Perché questa differenza? Una spiegazione è che spingere qualcuno alla morte è più personale, e attiva un'avversione emotiva all'uccisione di un'altra persona,
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
ma proviamo un conflitto perché sappiamo che è ancora la scelta logica. La Trolleyologia è stata criticata da alcuni filosofi e psicologi. Sostengono che non rivela niente perché le premesse non sono realistiche
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
e i partecipanti alla ricerca non la prendono seriamente. Ma le nuove tecnologie stanno rendendo questo tipo di analisi etica più importante che mai. Per esempio, le auto senza conducente dovranno fare delle scelte come causare un piccolo incidente per prevenirne uno più grande. Nel frattempo, i governi stanno facendo ricerca sui droni militari autonomi che potrebbero dover prendere decisioni se rischiare vittime civili per attaccare obiettivi più importanti. Se vogliamo che queste scelte siano etiche, dobbiamo decidere in anticipo che valore dare alla vita
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
e stabilire il bene comune. I ricercatori che studiano i sistemi autonomi stanno collaborando con i filosofi per risolvere il complesso problema di programmazione dell'etica nelle macchine, che mostra che qualunque ipotetico dilemma