Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
تصور کنید در حین تماشای تراموایی هستید که با سرعت روی ریل در حرکت است و مستقیما به سمت پنج کارگری میرود که نمی توانند فرار کنند. از قضا، شما کنار سوئیچی هستید که تراموا را به مسیر دیگری منحرف می کند. مسئله اینجاست که روی آن مسیر هم یک کارگر هست، اما فقط یک نفر!
What do you do? Do you sacrifice one person to save five?
چکار می کنید؟ آیا یک نفر را قربانی می کنید تا ۵ نفر را نجات دهید؟
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
این مسئله تراموا است، نسخه ای از یک دوراهیِ اخلاقی که فیلیپا فوتِ فیلسوف در سال ۱۹۶۷ طرح کرد. این موضوع به این دلیل محبوب است که مجبورمان میکند بین بد و بدتر انتخابی داشته باشیم. آیا عملِ داری بهترین پی آمد را انتخاب میکنیم تا یک قانون اخلاقی را که کشتن دیگران را ممنوع می کند رعایت میکنیم؟
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
در یک بررسی، حدود ۹۰٪ از پاسخگویان گفتند که حرکت دادن سوئیچ اشکالی ندارد، چون یک کارگر میمیرد و ۵ نفر نجات میابند، در مطالعات دیگر هم، شامل یک شبیه سازیِ واقعیت مجازی از این دوراهی، به نتایج مشابهی رسیده اند.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
این قضاوت ها با اصلِ فلسفیِ سودمندگرایی سازگاری دارند، اصلی که ادعا می کند یک تصمیمِ درست از نظر اخلاقی تصمیمی است که رفاه را برای بیشترین تعداد انسان ها بیشینه سازی می کند. زندگی ۵ نفر از یک نفر ارزشمندتر است، حتی اگر رسیدن به آن پی آمد نیاز به محکوم کردن فردی به مرگ داشته باشد.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
اما مردم همیشه دیدگاه سودمندگرایی ندارند، این را میتوان با تغییری کوچک در این مسئله مشاهده کرد.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
اینبار شما بر روی پلی که از روی ریل میگذرد ایستاده اید و تراموا به شما نزدیک می شود. حالا مسیرِ دومی در کار نیست، اما یک مردِ بسیار تنومند کنار شما روی پل است. اگر اون را هل بدهید، بدنش تراموا را متوقف خواهد کرد. و جانِ ۵ کارگر نجات پیدا می کند، اما او می میرد.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
برای سودمندگراها این تصمیم دقیقا همان تصمیم قبلی است. قربانی کردن یک نفر برای نجات ۵ نفر. اما در این مورد، فقط حدود ۱۰٪ از مردم گفتند که هل دادن مرد کار درستی است. غریزه ما می گوید که کشتنِ عمدیِ یک نفر با این که اجازه بدهیم آنها خودشان بمیرند متفاوت است. دلایلی که توضیح دادنشان سخت است یک حس اشتباه بودن در خود دارند.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
این تقاطع بین اخلاقیات و روانشناسی نکته جالب در مورد مسئله تراموا است. این دوراهی و نسخه های مختلفش مشخص میکنند چیزی که ما فکر می کنیم درست یا غلط است بیشتر به عوامل بستگی دارد تا یک سنجشِ منطقی از مزیات و مضرات.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
مثلا، احتمال اینکه مردان با دادن مرد از روی پل مشکلی نداشته باشند، از زنان بیشتر است. و همینطور کسانی که قبل از انجام آزمایش فکری یک فیلم کمدی تماشا کرده اند. و در یک مطالعه ی واقعیت مجازی، مردم بیشتر تمایل به قربانی کردن مردان داشتند تا زنان.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
محققان فعالیت مغزی افرادی که در مورد نسخه های کلاسیک و جدید مسئله فکر کرده اند را مطالعه کرده اند. هر دو سناریو ناحیه هایی از مغز را فعال میکنند که در تصمیم گیری و واکنش های عاطفی شرکت دارند. اما در نسخه جدید، واکنش عاطفی بسیار قویتر است. و همینطور فعالیت در ناحیه ای از مغز که با پردازش تعارضات درونی در ارتباط است. چرا این تفاوت وجود دارد؟ یک توضیح این است که کشتن یک فرد شخصی تر به نظر می آید، و یک بیزاری عاطفی برای کشتن دیگری ایجاد می کند، اما ما احساس تعارض می کنیم، چون می دانیم با این وجود انتخاب منطقی همین است.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
این مسئله توسط برخی فلاسفه و روانشناسان مورد انتقاد قرار گرفته است. آنها ادعا میکنند این کار چیزی را مشخص نمیکند، چون فرضش آنقدر غیرواقع گرایانه است که شرکت کننده ه آن را جدی نمیگیرند.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
اما فناوری روز این نوع تحلیل اخلاقی را از همیشه مهمتر کرده است. مثلا، خودروهای خودران ممکن است مجبور شوند تصمیم هایی بگیرند مثلا یک تصادف کوچک کنند تا از یک تصادف بزرگتر جلوگیری شود. در ضمن، دولت ها در حال تحقیق در مورد درون های نظامیِ خودگردان هستند که می توانند تصمیم بگیرند که خطرِ کشتار غیرنظامیان را بپذیرند تا به اهداف ارزشمند حمله کنند. اگر بخواهیم این اقدامات اخلاقی باشند باید از پیش تصمیم بگیریم که چطور زندگی انسان را ارزشگذاری کنیم و خوب و بهتر را قضاوت کنیم.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
پس محققانی که بر روی سیستم های خودگران مطالعه می کنند با فلاسفه همکاری می کنند تا مسئله پیچیده ی برنامه ریزی اخلاقیات در ماشینها را حل کنند، که قرار است نشان دهد حتی دوراهی های فرضی، ممکن است در جایی به تقاطعِ دنیای واقعی برسند.