Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
ลองจินตนาการว่าคุณเห็นรถไฟ กำลังวิ่งอยู่ในราง ตรงไปหาคนงาน 5 คนที่หนีไปไหนไม่ได้ คุณบังเอิญยืนอยู่ข้างปุ่มควบคุม ที่จะสับรางรถไฟไปอีกรางหนึ่ง ปัญหามันอยู่ที่ รางนั้นก็มีคนงานอยู่เช่นกัน แต่แค่คนเดียว
What do you do? Do you sacrifice one person to save five?
คุณจะทำอย่างไร คุณจะสละหนึ่งชีวิตเพื่อช่วยห้าชีวิตหรือไม่
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
นี่เป็นปัญหารถไฟ รูปแบบหนึ่งของความคับข้องทางจริยธรรม ที่นักจิตวิทยา ฟิลลิปปา ฟุท ยกขึ้นมาในปี ค.ศ. 1967 มันเป็นที่รู้จักอย่างมากเพราะว่า มันบังคับให้เราคิดว่าจะเลือกอะไร เมื่อมันไม่มีทางเลือกใดที่ดีเลย เราเลือกการกระทำที่ให้ผลดีที่สุด หรือจะยึดติดกับศีลธรรม ที่ห้ามเป็นเหตุทำให้ผู้ใดเสียชีวิต
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
ในการสำรวจหนึ่ง ประมาณ 90% ของผู้ตอบบอกว่า มันโอเคที่จะกดปุ่มเพื่อสับราง โดยให้คนงานคนหนึ่งตายเพื่อช่วยอีกห้าชีวิต และการศึกษาอื่น ๆ ซึ่งรวมไปถึง การจำลองเสมือนจริงของเหตุการณ์นี้ ก็ได้ผลการศึกษาที่เหมือนกัน
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
คำตัดสินเหล่านี้มีความสอดคล้องกับ หลักการทางปรัชญาของแนวคิดประโยชน์นิยม ที่ให้เหตุผลว่า คำตัดสินที่ถูกต้องตามจริยธรรม คือทางเลือกนั้น ๆ ต้องดีที่สุด สำหรับคนหมู่มาก ชีวิตห้าชีวิตมีค่ามากกว่าหนึ่งชีวิต ถึงแม้ว่าผลลัพธ์ที่ออกมาจะต้อง สละชีวิตของใครคนหนึ่งก็ตาม
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
แต่คนเราไม่ใช้มุมมอง ของแนวคิดประโยชน์นิยมไปตลอด ซึ่งเราสามารถเห็นได้โดย ปรับเปลี่ยนปัญหารถไฟเล็กน้อย
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
คราวนี้ คุณยืนอยู่ที่สะพานเหนือรางรถไฟ เมื่อรถไฟกำลังแล่นเข้ามา คราวนี้มันไม่มีรางที่สอง แต่มันมีอีกคนที่ตัวใหญ่มาก ยืนอยู่บนสะพานข้างคุณ ถ้าคุณผลักเขาลงไป ร่างของเขาจะหยุดรถไฟไว้ ช่วยชีวิตคนงานห้าคน แต่เขาจะตาย
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
สำหรับชาวประโยชน์นิยม การตัดสินใจนั้นยังคงเหมือนเดิม สละหนึ่งชีวิตเพื่อช่วยอีกห้าชีวิต แต่ในสถานการณ์นี้ มีคนแค่ 10% เท่านั้น ที่บอกว่ามันโอเคที่จะโยนคนลงไปบนราง สัญชาตญาณของเราบอกว่า การจงใจทำให้คนหนึ่งเสียชีวิต นั้นแตกต่างจากการปล่อยให้พวกเขาตาย เพราะเป็นลูกหลง มันแค่รู้สึกว่าผิดด้วยเหตุผลที่ยากจะอธิบาย
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
จุดตัดระหว่างจริยธรรมกับจิตวิทยานี้ เป็นสิ่งที่น่าสนใจเกี่ยวกับปัญหารถไฟ ภาวะกลืนไม่เข้าคายไม่ออกในหลายรูปแบบนี้ แสดงให้เห็นว่าสิ่งที่เราคิดว่าถูกหรือผิด ขึ้นอยู่กับปัจจัยหลาย ๆ อย่าง มากกว่าตรรกะการเปรียบเทียบข้อดีข้อเสีย
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
ตัวอย่างเช่น ผู้ชายนั้นมีแนวโน้ม มากกว่าผู้หญิง ที่บอกว่า มันโอเค ที่จะผลักคนให้ตกสะพาน เช่นเดียวกับคนที่ดูคลิปตลก ก่อนที่จะทำการทดลองทางความคิด และในการศึกษาที่จำลองเหตุการณ์เสมือนจริง ผู้คนนั้นเต็มใจที่จะให้สละชีวิตของผู้ชาย มากกว่าผู้หญิง
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
นักวิจัยได้ศึกษาการทำงานของสมอง ของคนที่กำลังคิดเกี่ยวกับสถานการณ์รถไฟ ทั้งแบบดั้งเดิมและแบบบนสะพาน เหตุการณ์ทั้งสองกระตุ้นพื้นที่ของสมอง ที่เกี่ยวข้องกับการตัดสินใจอย่างมีสติ และการตอบสนองทางอารมณ์ แต่ในเหตุการณ์บนสะพาน การตอบสนองทางอารมณ์นั้นรุนแรงกว่า เช่นเดียวกับการทำงานของสมอง ที่เกี่ยวข้องกับการประมวลความขัดแย้งภายใน แล้วมันแตกต่างกันอย่างไรล่ะ คำอธิบายหนึ่งคือ การผลักคนอื่น ให้ถึงแก่ความตายมันให้ความรู้สึกโดยตรง มันกระตุ้นความรู้สึกไม่ชอบที่จะฆ่าคนอื่น แต่เรารู้สึกขัดแย้ง เพราะเรารู้ว่า มันยังคงเป็นทางเลือกเชิงตรรกะอยู่
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
ทฤษฎีรถไฟนี้ ถูกวิจารณ์โดย นักปรัชญาและนักจิตวิทยาบางคน พวกเขาแย้งว่ามันไม่ได้เปิดเผยอะไรเลย เพราะเหตุการณ์มันไม่มีความสมจริง ผู้เข้าร่วมการวิจัยก็ไม่ได้คิดจริงจัง
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
แต่เทคโนโลยีใหม่ ๆ ทำให้ การวิเคราะห์ด้านจริยธรรมแบบนี้ มีความสำคัญมากกว่าที่เคยเป็นมา ตัวอย่างเช่น รถยนต์ไร้คนขับ อาจจะต้องรับมือกับทางเลือกต่าง ๆ เช่น การทำให้เกิดอุบัติเหตุเล็กน้อย เพื่อป้องกันอุบัติเหตุที่ใหญ่กว่า ในระหว่างนั้น รัฐบาลได้ทำการศึกษา โดรนอัตโนมัติของทหาร ที่สามารถตัดสินใจว่า จะเอาชีวิตของพลเรือนมาเสี่ยง เพื่อจะโจมตีเป้าหมายมูลค่าสูงหรือไม่ ถ้าเราต้องการให้การกระทำนี้ถูกจริยธรรม เราจะต้องตัดสินใจล่วงหน้าว่า เราให้คุณค่ากับชีวิตของมนุษย์แค่ไหน และตัดสินว่าแบบไหนดีกว่า
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
ดังนั้นนักวิจัยที่ศึกษาระบบอัตโนมัติ ได้ร่วมมือกับนักปรัชญา เพื่อแก้ปัญหาที่ซับซ้อนในการเขียนโปรแกรม ด้านจริยธรรมให้กับเครื่องจักรกล ซึ่งแสดงให้เห็นว่า แม้แต่ สภาวะกลืนไม่เข้าคายไม่ออกที่ถูกสมมติขึ้น สามารถจบลงที่การขัดแย้งกัน กับโลกแห่งความเป็นจริง