Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Imaginează-ţi că priveşti un tramvai rulând cu viteză pe şine înspre cinci muncitori care nu au cale de scăpare. Se întâmplă să stai lângă un macaz care va devia tramvaiul către o linie secundară. Aici apare problema. Şi pe această şină se află un muncitor, dar unul singur.
What do you do? Do you sacrifice one person to save five?
Ce faci? Sacrifici o persoană pentru a salva cinci?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Aceasta este dilema tramvaiului, o versiune a dilemei etice concepută în 1967 de filozoafa Philippa Foot. Este cunoscută pentru că ne forţează să reflectăm asupra alegerilor dintre două variante negative. Alegem acţiunea cu un maximum de beneficiu sau respectăm legea morală care interzice cauzarea morţii unui individ?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Într-un sondaj, 90% dintre participanţi au fost de acord cu schimbarea macazului, lăsând să moară un muncitor pentru a salva cinci, iar alte studii, inclusiv o simulare virtuală a realităţii dilemei, au dus la aceleaşi rezultate.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Aceste judecăţi corespund principiului filosofic al utilitarianismului care presupune că o decizie este morală dacă maximizează beneficiul celui mai mare număr de persoane. Cinci vieţi cântăresc mai mult decât una singură, chiar dacă obţinerea acelui rezultat implică moartea altcuiva.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Dar nu toţi oamenii împărtăşesc această viziune utilitaristă, după cum vom vedea dacă modificăm puţin dilema tramvaiului.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
De data aceasta te afli pe un pasaj deasupra căii ferate în timp ce trenul se apropie. Nu mai există linia secundară, ci un bărbat corpolent lângă tine. Dacă îl faci vânt de pe pasaj, corpul lui ar opri tramvaiul, salvând cei cinci muncitori, dar acesta va muri.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Pentru utilitariști, decizia e aceeaşi, pierderea unei vieţi pentru a salva alte cinci. Dar în acest caz, doar 10% dintre participanţi ar împinge acel om pe şine. Instinctul ne spune că a ucide pe cineva în mod intenţionat e diferit de a lăsa pe cineva să moară ca victimă colaterală. Ni se pare pur şi simplu greşit din motive greu de explicat.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Intersectarea dintre etică şi psihologie reprezintă punctul de interes al dilemei tramvaiului. Această dilemă, în multiple variante, arată că ceea ce credem că e bine sau rău depinde de factori diferiţi de logica argumentelor pro şi contra.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
De exemplu, bărbaţii acceptă mai uşor decât femeile să împingă bărbatul de pe pasaj. La fel şi cei care urmăresc un videoclip amuzant înainte de experiment. Iar un studiu de realitate virtuală a arătat că oamenii ar sacrifica mai degrabă bărbaţi decât femei.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Cercetătorii au studiat activitatea cerebrală a persoanelor implicate în cele două versiuni ale dilemei. Ambele scenarii activează anumite zone cerebrale implicate în luarea deciziilor şi răspunsuri emoţionale. În varianta care implică pasajul, răspunsul emoţional e mai puternic. La fel se întâmplă şi cu zona cerebrală asociată cu procesarea conflictului intern. De ce această diferenţă? O explicaţie este că a provoca moartea acelei persoane se simte mai personal, activând o aversiune emoțională față de cauzarea morţii cuiva, dar ne tulbură deoarece știm că e, totuși, alegerea logică.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
„Psihologia tramvaiului" a fost criticată de către filosofi şi psihologi. Aceştia susţin că nu demonstrează nimic deoarece premizele sunt atât de nerealiste încât participanţii la studiu nu iau răspunsul în serios.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Dar noua tehnologie face ca acest tip de analiză etică să devină mai important ca niciodată. De exemplu, maşinile automate se vor confrunta cu alegeri precum cauzarea un accident mic pentru a preveni unul mai mare. Între timp, guvernele fac cercetări asupra dronelelor militare automate care ar putea decide dacă vor risca viețile civililor pentru a putea atinge ținte strategice. Dacă vrem ca aceste acţiuni să fie etice, trebuie să decidem dinainte cum evaluăm viaţa umană şi să considerăm beneficiul mai mare.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Deci cercetătorii care studiază sistemele automate colaborează cu filosofii pentru abordarea problemei complexe de programare a eticii la maşinării, arătând că până şi dilemele ipotetice pot lua un curs conflictual în raport cu realitatea.