خەیاڵ بکە شەمەندەفەرێک دەبینیت کە بە خێرایی دەڕوات ڕاستەوخۆ بەرەو ڕووی ٥ کرێکار کە توانای دەربازبوونیان لێی نییە. تۆش بەڕێکەوت لەتەنیشت گۆڕەڕەک دەبیت کە ئاڕاستەی شەمەندەفەرەکە دەگۆڕێت بۆ سەر ڕێگەیەکی دیکە. کێشەکە لێرەدایە. ئەو ڕێگەیەش کرێکارێکی لەسەرە بەڵام تەنها یەک کەسە. چی دەکەیت؟ ئایا یەک کەس دەکەیتە قوربانی بۆ ڕزگارکردنی ٥ کەس؟ ئەمە کێشەی گالیسکەیە، کە وەکو جۆرێک لە مەتەڵی ئەخلاقی وابوو کە فیلیپا فوتی فەیلەسوف لە ١٩٦٧ دایهێنا. شتێکی خوازراوە، چونکە ناچارمان دەکات بیربکەینەوە چۆن هەڵبژاردن بکەین کاتێک کە هیچ هەڵبژاردنێکی باشمان لەبەردەستدا نییە. ئایا ئەوە هەڵدەبژێرین کە باشترین ئەنجامی هەیە یاخود پەیوەست دەبین بە لایەنی ئەخلاقی کە ڕێگری بکات لە مردنی کەسێکی دیکە؟ لە ڕاپرسییەکدا، ٩٠% بەژداربوان وتوویانە کە ئاساییە ڕێڕەوەکە بگۆڕیت، و ڕێگە بدەیت یەک کرێکار بمرێت بۆ ئەوەی ٥ کەس ڕزگاریان ببێت، و لێکۆڵینەوەکانی تریش، لەنێویاندا تاقیکاری واقیعی خەیاڵی بۆ مەتەڵەکە کراوە، هەمان دەرئەنجامیان دەستکەوتووەتەوە. ئەو بڕیارانە لە بنەمای فەلسەفەی سوودگەراییەوە دێن کە گفتوگۆی ئەوە دەکات بڕیاری ئەخلاقی دروست ئەوەیە کە زۆرترین سوود و قازانجی بۆ زۆرترین کەس هەبێت. پێنج ژیان گرنگتر و لە پێشترە لە یەک ژیان، تەنانەت ئەگەر بۆ دەستکەوتنی ئەوەش بڕیاری مردن بسەپێنیت بەسەر کەسێکی دیکەدا. بەڵام خەڵکی هەمیشە ئەم بیرکردنەوە سوودگەراییە هەڵنابژێرن، ئەویش بە گۆڕانکارییەکی بچووک لە گرفتی گالیسکەدا. ئەم جارەیان تۆ لەسەر پردێکیت و ڕاڕەوەکە بە ژێر تۆدا دەڕوات لەکاتێکدا گالیسکەکە نزیک دەبێتەوە. ئێستا ڕاڕەوی دووەممان نییە، بەڵام پیاوێکی زۆر گەورە لەسەر پردەکەیە و لەپەنای تۆدایە. ئەگەر پاڵی پێوە بنێیت ئەوا لاشەکەی دەتوانێت گالیسکەکە بوەستێنێت، پێنج کرێکارەکەش ڕزگار دەکات، بەڵام پیاوەکە دەمرێت. بۆ سوودگەراکان بڕیارەکە هەمان شتە، ژیانێک لەدەست بدە بۆ ڕزگارکردنی پێنج. بەڵام لەم حاڵەتەدا تەنها ڕێژەی ١٠% خەڵکی بەلایانەوە ئاسایی بووە کە پاڵ بە پیاوەکەوە بنێن. بەڵام شتێک لە ناخماندا پێمان دەڵێت بەئەنقەست ببیتە هۆکار بۆ کوشتنی کەسێک جیاوازە لەوەی رێیان بدەیت کە بمرن. هەست بە هەڵە و تاوانێک دەکەیت کە قورسە ڕوونی بکەیتەوە. ئەم یەکتربڕینەی نێوان ئەخلاق و دەروونناسی وەهای کردووە کە کێشەی گالیسکە ئەوەندە سەرنجڕاکێش بێت. ئەم بژاردە قورسە بەم شێوە فرەییەوە دەریدەخات کە بیرکردنەوەی ڕاست و هەڵەی ئێمە پەیوەستە بە هۆکارەوە وەک لە زیان و قازانجێکى لۆجیکی. بۆ نموونە، پیاوان زیاتر ئاسایی بووە بەلایانەوە وەکوو لە ئافرەتان، تاکوو پاڵ بنێن بە پیاوەکەوە لەسەر پردەکە. هەروەکو خەڵکانێک کە سەیری گرتەیەکی کۆمیدی دەکەن و پاشان ئەنجامی دەدەن. و لە توێژینەوەیەکی دیکەی واقیعی خەیاڵیدا، خەڵکی زیاتر ویستیان لەسەر ئەوە بووە کە پیاوەکان بکەنە قوربانی وەک لە ئافرەتان. توێژەران توێژینەوەیان کردووە لە چالاکیەکانی مێشک بۆ ئەو کەسانەی لەو دوو جۆر تاقیکردنەوەیەدا بەژداربوون. هەردوو سیناریۆکە ئەو ناوچانەی مێشک کارا دەکەن کە بەژدارن لەبڕیاردانی هۆشیارانە و وەڵامدانەی سۆزدارییانە. بەڵام لە جۆری پردەکە وەڵامدانەوەی سۆزداریانە زۆر بەهێزترە. بەم شێوەیە چالاکییەکانی ناوچەیەکی مێشک پێکەوە بەستراوە لە پڕۆسەیەکی ناکۆکی ناوەکییدا. جیاوازییەکە چییە؟ یەکێک لە ڕوونکردنەوەکان ئەوەیە کە پاڵنانی کەسێک بۆ مردن زیاتر لە شتێکی کەسی دەچێت، ئازاری ویژدان چالاک دەکات ئەگەر بتەوێت کەسێکی دیکە بکوژیت، بەڵام هەر هەست بە پێکدادان دەکەین چونکە هێشتا دەزانین کە هەڵبژاردنێکی لۆجیکانەیە. کێشەی گالیسکە لەلایەن هەندێک فەیلەسوف و دەروونناسەوە ڕەخنەی ئاڕاستە کراوە. گفتوگۆی ئەوە دەکەن کە هیچ شتێک بەدەرناخات چونکە بناغەکەی زۆر ناواقیعیانەیە بۆیە بەژداربووان بە شتێکی گرنگ وەریناگرن. بەڵام تەکنەلۆژیای نوێ ئەم لێکدانەوە ئەخلاقیانە زۆر گرنگتر لێکدەداتەوە وەک لەپێشتر. بۆ نموونە لە ئۆتومبێلێکی بێ شۆفێر(زیرەک)دا پێویستە هەڵبژاردن بکات لەنێوان تووشبوون بە ڕووداوێکی بچووک بۆ ڕێگریکردن لەڕووداوێکی گەورەتر. لەهەمان کاتدا،حکومەتەکان توێژینەوە دەکەن لە فڕۆکەی بێفڕۆکەوانی سەربازییدا کە ئایا کەی بڕیاری ئەوە بدەن خەڵکی ئاسایی بخەنە مەترسی و ببنە قوربانی بۆ هێرشکردنە سەر ئامانجێکی گرنگ. ئەگەر بمانەوێت ئەو کردارانە ئەخلاقی بن، پێویستە بڕیار بدەین لەوەی چۆن نرخاندن بۆ ژیانی مرۆڤ بکەین و بڕیاری باشترینەکە بدەین. بۆیە ئەوانەی کە توێژینەوە لە سیستمی خودکار دەکەن هەماهەنگی دەکەن لەگەڵ فەیلەسوفەکان بۆ ئاماژەدان بەم کێشە ئاڵۆزانەی بەرنامەسازی ئەخلاقی بۆ ناو ئامێرەکان، ئەمەش ئەوە پیشان دەدات کە تەنانەت کێشە مەتەڵییە گریمانەییەکانیش دەتوانرێت بە پێکداکەوتنێکی قورس لەگەڵ ژیانی ڕاستەقینەدا کۆتایی بێت.
Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one. What do you do? Do you sacrifice one person to save five? This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death? In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results. These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death. But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit. This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die. To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain. This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons. For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women. Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice. "Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously. But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good. So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.