Imagine you're watching a runaway trolley barreling down the tracks straight towards five workers who can't escape. You happen to be standing next to a switch that will divert the trolley onto a second track. Here's the problem. That track has a worker on it, too, but just one.
Таны нүдэн дээр нэгэн галт тэрэг хар хурдаараа төмөр замын 5 ажилтанг яг чиглэн довтолгож байна гэж төсөөл. Харин та галт тэргийг салаа зам руу шилжүүлэх боломжтой бариулын дэргэд зогсож байна гэж бодъё. Гэхдээ энэ бас асуудалтай. Тэр зам дээр өөр нэг ажилчин ажиллаж байгаа.
What do you do? Do you sacrifice one person to save five?
Та яах вэ? Нэг хүний амийг золиосолж таван хүнийхийг аврах уу?
This is the trolley problem, a version of an ethical dilemma that philosopher Philippa Foot devised in 1967. It's popular because it forces us to think about how to choose when there are no good choices. Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?
Энэхүү "Галт тэрэгний асуудал" нэртэй дасгалыг ёс суртахууны мухардлыг судлах зорилгоор 1967 онд гүн ухаанч Филиппа Фүүт зохиожээ. Энэ нь хүмүүсээс хоёр хэцүү сонголтоос аль нэгийг нь заавал хийхийг шаарддагаараа алдартай. Бид хамгийн сайн үр дүнтэй шийдвэрийг сонгох эсвэл хэн нэгний амийг алдуулахгүй гэсэн ухамсартаа захирагдах уу?
In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five, and other studies, including a virtual reality simulation of the dilemma, have found similar results.
Нэг асуулгад, оролцогчдын 90% нь бариулыг хөдөлгөх нь зөв гэж хэлэн нэг хүний амиар тавах хүнийг аврахыг сонгожээ. Виртуал загварчлал ашигласан өөр судалгаануудад төстэй үр дүн гарсан байна.
These judgments are consistent with the philosophical principle of utilitarianism which argues that the morally correct decision is the one that maximizes well-being for the greatest number of people. The five lives outweigh one, even if achieving that outcome requires condemning someone to death.
Эдгээр үнэлэмжүүд нь гүн ухааны Утилитаризм гэх зарчимтай нийцдэг. Энэ нь ухамсарын зөв шийдвэрүүд нь хамгийн олон тооны хүний сайн сайхны төлөө байдаг гэсэн зарчим юм. Таван амь нь нэгээс илүү гэдэг нь үр дүндээ нэг хүнийг үхэлд хүргэж байна.
But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.
Гэхдээ хүмүүс үргэлж утилитар өнцгөөс хардаггүйг галт тэрэгний дасгалыг бага зэрэг өөрчлөхөд л харж болно.
This time, you're standing on a bridge over the track as the runaway trolley approaches. Now there's no second track, but there is a very large man on the bridge next to you. If you push him over, his body will stop the trolley, saving the five workers, but he'll die.
Энэ удаад та галт тэрэг ойртон ирж буй төмөр зам дээрх гүүрэн дээр зогсож байна гэж бодьё. Энэ удаад салаа зам гэж байхгүй. Гэхдээ гүүрэн дээр таны хажууд маш том биетэй хүн зогсож байна гэж төсөөл. Хэрвээ та түүнийг гүүрнээс түлхвэл, түүний бие гал тэргийг зогсоож, таван хүний амийг аврах ч, тэр өөрөө үхнэ.
To utilitarians, the decision is exactly the same, lose one life to save five. But in this case, only about 10% of people say that it's OK to throw the man onto the tracks. Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage. It just feels wrong for reasons that are hard to explain.
Утилитар үзэлтнүүдийн хувьд сонголт урьдынхтайгаа адил. Таван амийг нэг амиар аварна. Гэхдээ энэ удаад оролцогчдын зөвхөн 10% нь хүнийг зам руу түлхэх нь зөв гэж хэлэв. Бид хүний аминд санаатайгаар хүрэх нь золгүй байдлаар амь алдахаас өөр гэдгийг зөн совингоороо мэдэрдэг. Үүнийг бид буруу гэдгийг нь мэдэрдэг ч яагаад гэдгийг нь тайлбарлаж чаддаггүй.
This intersection between ethics and psychology is what's so interesting about the trolley problem. The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.
Сэтгэл судлал болон ёс зүйн огтлолцлолыг хөнддөгөөрөө галт тэрэгний асуудал сонирхол татдаг. Энэхүү дасгал хийгээд үүний олон төрлийн хувилбарууд нь бид зөв, бурууг дэнслэхдээ зөвхөн сайн, муу талыг нь жинлэж үзэхээр хязгаарлагддаггүй гэдгийг харуулдаг.
For example, men are more likely than women to say it's okay to push the man over the bridge. So are people who watch a comedy clip before doing the thought experiment. And in one virtual reality study, people were more willing to sacrifice men than women.
Жишээ нь эрэгтэйчүүд эмэгтэйчүүдээс илүү хүнийг гүүрнээс түлхэх нь зөв шийдвэр гэж үзсэн байна. Энэ туршилтыг хийхээс өмнө хошин шогийн бичлэг үзсэн хүмүүс мөн адил. Виртуал загварчлал бүхий туршилтад оролцогчид эмэгтэй хүнээс илүүтэй эрэгтэй хүнийг золиослох нь илүү байв.
Researchers have studied the brain activity of people thinking through the classic and bridge versions. Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses. But in the bridge version, the emotional response is much stronger. So is activity in an area of the brain associated with processing internal conflict. Why the difference? One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person, but we feel conflicted because we know it's still the logical choice.
Судлаачид тархины үйл явцыг дасгалын анхны хувилбар болон гүүртэй хувилбарын үеэр судалсан байна. Аль аль тохиолдолд нь ухамсартай шийдвэр гаргалт, сэтгэл хөдлөл хариуцсан тархины хэсгүүд идэвхижсэн байна. Гэхдээ гүүртэй хувилбарт сэтгэл хөдлөлийн хариу үйлдэл илүү хүчтэй байжээ. Дотоод зөрчилдөөнийг зохицуулдаг тархины хэсэг ч мөн идэвхитэй байлаа. Яагаад ийм ялгаатай гэж? Нэг тайлбар нь хүнийг үхэл рүү түлхэх нь хувь хүний сэтгэл санаанд илүү хүчтэй тусч хүний аминд хүрэхийг тэвчих мэдрэмжийг идэвхижүүлдэг. Гэвч энэ нь логикийн хувьд зөв байх шийдвэртэй зөрчилддөг.
"Trolleyology" has been criticized by some philosophers and psychologists. They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.
Галт тэрэгний онолыг зарим гүн ухаанч, сэтгэл судлаачид шүүмжилдэг байна. Дасгалын нөхцөл нь бодит байдалтай огт нийцэхгүйгээс оролцогчид асуудалд нухацтай ханддаггүй тул судалгааны үр дүн юу ч хэлж чадахгүй гэж тэд үздэг.
But new technology is making this kind of ethical analysis more important than ever. For example, driver-less cars may have to handle choices like causing a small accident to prevent a larger one. Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target. If we want these actions to be ethical, we have to decide in advance how to value human life and judge the greater good.
Гэхдээ шинэ технологи энэхүү ёс зүйн судлалуудыг өмнөхөөсөө илүү чухал болгож байна. Жишээлбэл, жолоочгүй машинд том ослоос сэргийлэхийн тулд жижиг осол хийх сонголт тулгарч болно. Мөн засгийн газрууд цэргийн хүчиндээ дрон ашиглахаар судалж байгаа нь энгийн иргэдийн амь насыг эрсдэлд оруулах, эсвэл стратегийн чухал бай руу довтлох гэсэн сонголттой тулгарч магадгүй. Бид эдгээр шийдвэрийг ёс зүйтэй байлгахыг хүсвэл эхлээд хүний амийг хэрхэн үнэлэх, үнэт зүйлс юу болохыг тодорхойлох хэрэг гарна.
So researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines, which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.
Автомат системийн судлаач нар гүн ухаанч нартай хамтран машинд ёс зүйг програмчлалах ярвигтай асуудал дээр ажиллаж байгаа нь зөвхөн онолын хувьд тохиож болох асуудал ч бодит амьдрал дээр тулгарч болохыг харуулж байна.