Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Hãy tưởng tượng bạn đang xem một đoàn tàu lửa đang lao dốc xuống đường ray tiến thẳng về phía 5 người công nhân bị kẹt ở đường ray. Bạn đang được đứng kế một công tắc Cái đó sẽ chuyển hướng đoàn tàu sang một đường ray thứ hai. Vấn đề là ở đây. Đường ray đó cũng có một người công nhân, nhưng chỉ là một người.
What do you do? Do you sacrifice one person to save five?
Bạn làm thế nào ? Bạn có hy sinh một người để cứu năm ?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Đây là Vấn đề toa tàu, vấn đề tiến thoái lưỡng nan đạo đức mà triết gia Philippa Foot đặt ra năm 1967. Nó nổi tiếng bởi vì nó buộc chúng ta nghĩ làm thế nào để chọn lựa Khi không có lựa chọn nào tốt. Chúng ta chọn hành động với kết quả tốt nhất hay ràng buộc trong phạm vi đạo đức không gây ra cái chết cho một ai ?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Trong một cuộc khảo sát, khoảng 90% người được hỏi đồng ý để bật công tắc, cho một công nhân chết để cứu 5 người và các nghiên cứu khác, bao gồm một mô phỏng thực tế của tình trạng khó xử, đã tìm ra kết quả tương tự.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Những ý kiến này phù hợp với nguyên lý triết học Chủ Nghĩa Vị Lợi được biện hộ rằng quyết định đúng đắn về đạo đức là quyết định đem lại lợi ích cho số đông. Năm người thì hơn một người, ngay cả khi để đạt được kết quả đó đòi hỏi một ai đó phải chết.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Nhưng con người không phải luôn đi theo cách nhìn thực lợi. Chúng ta có thể thay đổi vấn đề tàu điện một chút.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Thời điểm đó, bạn đang đứng trên cây cầu bắt qua đừng ray khi xe điện đến gần. Bây giờ không có đường ray thứ hai, nhưng có một người đàn ông rất lớn ở trên cầu kế bên bạn. Nếu bạn đẩy anh ta lên, cơ thể anh ta sẽ dừng xe điện lại, cứu 5 công nhân, nhưng anh ấy sẽ chết.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Những người thực lợi, sẽ vẫn chọn như cũ, mất một người để cứu năm người. Nhưng trong trường hợp này, chỉ khoảng 10% người đồng ý đẩy người đàn ông xuống đường ray. Bản năng của chúng ta nói rằng cố ý gây ra cái chết cho ai đó khác với việc cho họ chết như một tai nạn phát sinh. Điều đó chỉ có vẻ sai trái đối với những lí do khó giải thích mà thôi.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Sự giao thoa giữa đạo đức và tâm lý này là những điều vô cùng thú vị về vấn đề xe điện. Tình thế nan giải nhiều trường hợp tiết lộ điều chúng ta nghĩ là đúng hay sai phụ thuộc vào các yếu tố khác ngoài sức nặng hợp lý của các ưu và khuyết điểm.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Ví dụ, đàn ông có thường đồng ý đẩy người người đó xuống cầu hơn phụ nữ. Những người được xem phim hài trước khi được hỏi cũng có ý kiến như vậy. Và trong một nghiên cứu thức tế ảo, người ta sẵn sàng hy sinh đàn ông hơn phụ nữ.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Các nhà khoa học đã nghiên cứu hoạt động não của mọi người trong trường hợp "công tắc" và "cây cầu". Cả hai hoàn cảnh đều kích hoạt các vùng não liên quan đến việc quyết định và các phản ứng cảm xúc. Trong trường hợp "cây cầu", phản ứng cảm xúc mạnh mẽ hơn. Ở vùng não liên kết với quá trình xung đột nội tâm cũng phản ứng như vậy. Tại sao có sự khác biệt? Một lí giải là việc đẩy ai đó đến cái chết thiên về cá nhân hơn, gợi sự ác cảm cảm xúc đối với việc giết người khác, nhưng ta lại thấy mâu thuẫn bởi ta biết đó vẫn là sự lựa chọn hợp lý.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Giả thuyết xe điện đã bị chỉ trích bởi một số nhà triết học và tâm lí học. Họ cho rằng điều đó không nói lên điều gì bởi giả thuyết đưa ra là vô thực cho nên những người tham gia khảo sát không trả lời nghiêm túc.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Nhưng công nghệ mới đang làm cho kiêu phân tích đạo đức này trở nên quan trọng hơn bao giờ hết. Ví dụ, xe tự động không người lái sẽ chọn gây ra một tai nạn nhỏ để ngăn chặn tai nạn lớn hơn. Trong khi đó, chính phủ đang nghiên cứu những chiếc máy bay quân sự tự lái có thể đưa ra quyết định có nên mạo hiểm tổn mạng sống con người để tấn công mục tiêu quan trọng hay không. Nếu chúng ta muốn những việc này hợp lẽ, ta phải quyết định trước cách đanh giá mạng sống con người và xem lợi ích nào là lớn hơn.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Vì thế các nhà nghiên cứu những hệ thống tự động đang hợp tác với các triết gia để xác định vấn đề phức tạp khi chạy chương trình đạo đức cho máy móc, điều đó cho thấy ngay cả những tình thế giả định cũng có thể xuất hiện trong thực tế.