Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Kontrolden çıkmış bir tramvayın raylardan aşağı doğru kaçması mümkün olmayan beş işçinin üzerine hızla gittiğini gördüğünüzü düşünün. Her nasıl olduysa tramvayı diğer raya geçirecek olan bir düğmenin yanında duruyorsunuz. Soru şu: Rayda çalışan bir işçi var, ama tek bir tane.
What do you do? Do you sacrifice one person to save five?
Ne yaparsınız? Beş kişiyi kurtarmak için bir kişiyi feda eder misiniz?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Bu tramvay problemi, 1967 yılında Philippa Foot adlı filozofun kurguladığı bir etik ikilemdir. Oldukça meşhurdur çünkü bizi iyiyi seçmenin olmadığı zamanları düşünmeye zorluyor. En iyi sonucu olan davranışı mı seçeriz yoksa birinin ölümüne sebep olmayı engelleyen ahlaki değere mi bağlı kalırız?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Bir araştırmada deneklerin %90'ı beş kişiyi kurtarmak için bir kişinin ölmesine müsaade ederek düğmeyi çevirmeyi seçmiştir, ikilemin sanal gerçeklik simülasyonu olan diğer araştırmalar da benzer sonuçlara ulaşmıştır.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Bu görüşler, ahlaken doğru olan davranışın iyi olmayı azami sayıda insan için maksimuma çıkarmasını savunan faydacılık felsefesinin prensibiyle tutarlıdır. Beş kişinin hayatı bir kişinin hayatına ağır basar, bu sonuca ulaşmak bir kişiyi öldürmeyi gerektirse bile.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Fakat insanlar her zaman faydacı görüşü seçmez, bunu tramvay problemini biraz değiştirerek görebiliriz.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Bu sefer, rayların üstünde bir köprüde duruyorsunuz, tramvay gittikçe yaklaşıyor. İkinci bir ray yok, ama köprünün üzerinde, yanınızda çok şişman bir adam var. Eğer onu iterseniz, vücudu beş kişinin hayatını kurtararak tramvayı durduracak, ama kendi ölecek.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Faydacılara göre karar tamamen aynıdır, beş kişiyi kurtarmak için birini kaybetmek. Fakat bu vakada insanların sadece %10 kadarı adamı rayların üstüne atmayı kabul ediyor. İç güdülerimiz birinin ölümüne kasten sebep olmanın ikincil zarar olarak ölmesine müsaade etmekten farklı olduğunu söyler. Açıklaması zor olan bazı sebeplerden ötürü yanlış gelir.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Etik ve psikoloji arasındaki bu kesişim tramvay problemini ilginç kılan şeydir. Birçok varyasyonu olan ikilem, doğru ya da yanlış olduğunu düşündüğümüz şeyin artı ve eksilerin mantıksal tartımından başka etkenlere bağlı olduğunu gösteriyor.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Örneğin, erkeklerin adamı köprüden atmayı kabul etmesi kadınlardan daha olasıdır. Düşünce deneyinden önce komik video seyreden insanların da. Bir sanal gerçeklik araştırmasında, insanlar kadınlardan çok erkekleri kurban etmeyi istiyordu.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Araştırmacılar, klasik ve köprü versiyonlarını düşünen insanların beyinsel faaliyetlerini incelemiştir. Her iki senaryo beynin bilinçli karar verme ve duygusal tepkilerini kapsayan alanlarını harekete geçirir. Ancak köprü versiyonunda duygusal tepki daha fazladır. Beynin bir kısmının faaliyeti de iç çatışmayı işlemden geçirmek ile ilişkilidir. Fark eden ne? Bir açıklaması şöyle ki; birilerini ölüme itmek, başka birini öldürmeye duygusal bir isteksizlik uyandırarak daha kişisel gibi gelir, ancak yine de mantıklı olanın o olduğunu bildiğimiz için çelişkiye düşeriz.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Tramvay problemi bazı felsefeci ve psikologlar tarafından eleştirilmiştir. Temel dayanağı o kadar gerçek dışıdır ki, deneye katılanlar bunu ciddiye almaz. Dolayısıyla hiçbir şeyi açığa çıkarmadığını savunurlar.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Fakat yeni teknoloji bu tür etik analizleri hiç olmadığı kadar önemli hale getiriyor. Mesela, sürücüsüz arabalar daha büyük bir kazayı engellemek için küçük bir kazaya neden olmak gibi seçenekleri kullanmak zorunda kalabilir. Bu arada hükumetler, daha yüksek değerli hedefleri vurmak için sivil kayıpları riske atıp atmadığına karar vererek harekete geçebilen insansız askeri uçakları inceliyor. Bu eylemlerin etik olmasını istiyorsak öncelikle insan hayatına değer verme ve çoğunluğun iyiliğine hüküm verme şekline karar vermek zorundayız.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Otomatik sistemleri inceleyen araştırmacılar, makinelerin programlama etiğinin karmaşık problemlerine göndermede bulunan felsefecilerle iş birliği yapıyor. Bu ise, varsayımsal ikilemlerin bile gerçek dünya ile çarpışmasına son verebileceğini gösteriyor.