تخيل أنك تراقب عربة ترولي جامحة تسير على سكة حديدية تتجه مباشرة نحو خمسة عمال، ولا يمكنهم الهرب. وصادف أنك تقف قرب محول سكة الحديد، و الذي سيحرف بالعربة إلى مسار آخر. وهنا تكمن المشكلة. يقف على المسار الآخر عامل أيضاً، عامل واحد فقط. ماذا ستفعل؟ هل تضحي بحياة شخص واحد لإنقاذ خمسة؟ هذه هي معضلة عربة السكة الحديديّة، والتي تعد نسخة لمعضلة أخلاقية ابتكرتها الفيلسوفة فيليبا فوت في عام 1967. وترجع شعبيتها لأنها تدفعنا للتفكير في كيفية الاختيار عندما لا توجد اختيارات صائبة. هل نختار الفعل مع إحراز أفضل النتائج أم نلتزم بالقانون الأخلاقي الذي يحظر علينا التسبب في وفاة الأشخاص؟ وفي إحدى الاستطلاعات، وافق نحو 90% علي قلب المحول، والتضحية بعامل واحد لإنقاذ خمسة، وقد جاءت هذه النتائج متطابقة مع دراسات أخرى؛ كنظرية محاكاة الواقع الافتراضي للمعضلة. وتتوافق هذه الأحكام مع المبدأ الفلسفي لمذهب المنفعة الذي يزعم أن القرار الأخلاقي هو من أحد القرارات الصائبة التي تزيد السعادة لأكبر عدد من الناس. فحياة الخمسة أفراد تفوق حياة شخص واحد، حتى وإن اقتضى ذلك التضحية بشخص واحد لإنقاذهم. ولكن لا تأخذ الناس دائمًا بالمبدأ المنفعي، حيث يمكننا إدراكه من تغيير مشكلة العربة قليلاً. على غرار الحالة السابقة، أنت تقف الآن على جسر فوق مسار السكة الحديد عندما تقترب العربة بسرعتها الفائقة. ففي ذلك الحين، ليس هناك مسارًا آخر، وإنما يقف بالقرب منك رجلًا شديد الضخامة. فإن دفعته من فوق الجسر، سيوقف الترولي وبذلك تنقذ الخمسة عمال، غير أنك ستودي بحياة ذلك الرجل. وعند النفعية، فإنهم يأخذون بالقرار نفسه؛ وهو التضحية بحياة شخص واحد لإنقاذ خمسة. ولكن في هذه الحالة، لا يوافق على التضحية بحياة الرجل غير حوالي 10٪ من الناس. وتخبرنا غرائزنا الاختلاف بين الأمرين؛ قتل الشخص عمدًا، وقتله نتيجة للأضرار الجانبية. وقد نخطئ إذا تطرقنا للأسباب التي يصعب علينا تعليلها. وما يثير انتباهنا حول معضلة الترولي؛ أنها تمثل نقطة تقاطع بين علم الأخلاق وعلم النفس. وتبدو المعضلة في اختلافاتها العديدة حول ما نراه صحيحًا أو خاطئًا، يعتمد على عوامل أخرى غير الترجيح المنطقي للإيجابيات والسلبيات. فعلى سبيل المثال، لعل الرجال يوافقون أكثر من النساء على دفع الرجل من على الجسر. وهؤلاء هم الأشخاص الذين يشاهدون مقطعًا كوميديًا قبل القيام بتجربة فكرية. وتشير إحدى دراسات الواقع الافتراضي، أن الناس أكثر استعدادًا للتضحية بالرجال عن النساء. وقد درس الباحثون نشاط دماغ الأشخاص الذين يفكرون في كلٍ من النسختين السابقتين. وهكذا يقوم كلا السيناريوهين بتنشيط مناطق العقل الداخلة في اتخاذ القرارات الصائبة والاستجابات العاطفية. غير أن الاستجابة العاطفية أكثر قوة في نسخة الجسر. وهكذا يعد نشاطًا في منطقة العقل مرتبط بعملية الصراع الداخلي. لماذا الاختلاف؟ تفيد إحدى التفسيرات، أن التسبب في موت الأشخاص يتعلق بأمور شخصية وتنشيط الكره العاطفي إلى قتل شخص آخر، لكننا نشعر بالصراع في داخلنا لأننا نعرف أنه لا يزال الخيار المنطقي. ولقد تعرض علم المعضلات الأخلاقية للانتقاد من بعض الفلاسفة وعلماء النفس. إنهم يزعمون أنه لا يكشف عن أي شيء لأن افتراضاته غير واقعية للغاية ولذلك لا يعير انتباههم. غير أن التكنولوجيا الحديثة جعلت التحليل الأخلاقي أكثر أهمية من أي وقت مضى. فعلى سبيل المثال، قد يلجأ سائقو السيارت الصغيرة إلى التعامل مع خيارتٍ مثل التسبب في حادث صغير لتفادي وقوع حادث بالغ الضرر. وفي هذه الأثناء، تجري الحكومات أبحاثًا حول طائرات عسكرية بدون طيار مستقلة حيث بإمكانها وضع حدٍ لقراراتٍ كالمخاطرة بخسارة حياة المدنيين لإصابة هدف بالغ القيمة. وإذا أردنا هذه الأحوال أن تكون أخلاقية علينا أن نقدر مسبقًا قيمة الحياة البشرية وأن نسعى لتحقيق الصالح العام. وهكذا يتعاون الباحثون الذين يدرسون الأنظمة الذاتية مع الفلاسفة لمعالجة المشكلة المعقدة من خلال برمجة الأخلاق في آلالات، مما يدل كذلك على أن المعضلات الافتراضية يمكن أن ينتهي بها المطاف بالتعارض مع العالم الحقيقي.
Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one. What do you do? Do you sacrifice one person to save five? This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death? In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results. These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death. But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit. This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die. To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain. This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons. For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women. Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice. "Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously. But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good. So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.