هذه تجربة خيالية
This is a thought experiment.
لنقل أنه في مرحلة ما ليست بالبعيدة أنطلقت على الطريق السريق بسيارتك ذاتية القيادة ووجدت أن سيارك قد اُقفل عليها بالسيارات الأخرى وفجأة تسقط عليك مواد كبيرة وثقيلة من الشاحنة التي أمامك سيارتك لايمكنها التوقف في الوقت المناسب لتجنب الأصطدام وعليها أن تتخذ القرار تتجه إلى الأمام وتصطدم بمواد الشاحنة أو تنحرف يساراً بإتجاه سيارات الدفع الرباعي أو تنحرف يميناً بإتجاه الدراجة النارية أتكون سلامتك أولويتها وتضرب الدراجة النارية أم تقليل الخطر على الأخرين بعدم الإنحراف حتى لو كان بالإصطدام بالمواد الضخمة والتضحية بحياتك، أو أختيار الحل الأوسط بالإصطدام بسيارات الدفع الرباعي أي خيار يحمل معدل نجاة أعلى للراكبين ؟ إذاً ماذا يجب على السيارة ذاتية القيادة أن تفعل ؟
Let's say at some point in the not so distant future, you're barreling down the highway in your self-driving car, and you find yourself boxed in on all sides by other cars. Suddenly, a large, heavy object falls off the truck in front of you. Your car can't stop in time to avoid the collision, so it needs to make a decision: go straight and hit the object, swerve left into an SUV, or swerve right into a motorcycle. Should it prioritize your safety by hitting the motorcycle, minimize danger to others by not swerving, even if it means hitting the large object and sacrificing your life, or take the middle ground by hitting the SUV, which has a high passenger safety rating? So what should the self-driving car do?
إذا كنا نقود في مثل هذا الزحام على الوضع اليدوي أياً كان تصرفك سيُفهم أنه أتُخذ هكذا ببساطة ردة فعل ليس قراراً مُتعمداً سيكون تصرف مذعور بدون أي تفكير مسبق أو تعمد أذي ولكن لو برمج المبرمج السيارة بإتخاذ نفس التصرف ظروف معينة قد تُفهم في المستقبل حسناً, قد يبدو هذا قتل عمد مع سبق الإصرار
If we were driving that boxed in car in manual mode, whichever way we'd react would be understood as just that, a reaction, not a deliberate decision. It would be an instinctual panicked move with no forethought or malice. But if a programmer were to instruct the car to make the same move, given conditions it may sense in the future, well, that looks more like premeditated homicide.
والآن لنكون عادلين السيارات ذاتية القيادة متوقع لها أن تقلل كثيراً من حوادث السيارات والوفيات بأستبعاد الأخطاء البشرية من معادلة القيادة بالإضافة إلى كافة أنواع الفوائد الأخري تخفيف إزدحام الطرق وتخفيض الإنبعاثات الضارة وتقليل من وقت القيادة المتوترة الغير منتجة ولكن لاتزال هناك إمكانية لوقوع حوادث وعندما تحدث يمكن تحديد نتائجها أشهر أو سنين مقدماً من قبل المبرمجين أو المسؤولين وسيكون عليهم إتخاذ بعض القرارات الصعبة وإنه لمن المغري أن تقدم بعض المبادئ العامة بمسألة إتخاذ القرار مثل تقليل الخطر ولكن ذلك قد يقود إلى خيارات معتمة أكثر
Now, to be fair, self-driving cars are predicted to dramatically reduce traffic accidents and fatalities by removing human error from the driving equation. Plus, there may be all sorts of other benefits: eased road congestion, decreased harmful emissions, and minimized unproductive and stressful driving time. But accidents can and will still happen, and when they do, their outcomes may be determined months or years in advance by programmers or policy makers. And they'll have some difficult decisions to make. It's tempting to offer up general decision-making principles, like minimize harm, but even that quickly leads to morally murky decisions.
على سبيل المثال لنتخيل أننا في نفس الموقف السابق ولكن الآن يوجد هناك سائقة دراجة نارية ترتدي خوذة إلى يسارك وقائد دراجة أخر يقود دراجته بدون خوذة أي من السائقين على سيارتك المبرمجة أن تصطدم به؟ إذا إفترضنا السائقة صاحبة الخوذة لأن إحتمالية نجاتها أعلى ألست تظلم راكبة الدراجة المهتمة بالسلامة ؟ وإذا بالمقابل تجنبت راكب الدراجة بدون الخوذة لأنه لم يهتم بالسلامة تكون قد أنحرفت كثيراً عن المبدأ الأول بشأن تقليل الخطر وتكون سيارتك المبرمجة قد خالفت عدالة الشارع
For example, let's say we have the same initial set up, but now there's a motorcyclist wearing a helmet to your left and another one without a helmet to your right. Which one should your robot car crash into? If you say the biker with the helmet because she's more likely to survive, then aren't you penalizing the responsible motorist? If, instead, you save the biker without the helmet because he's acting irresponsibly, then you've gone way beyond the initial design principle about minimizing harm, and the robot car is now meting out street justice.
الأعتبارات الأخلاقية قد تكون أعقد من هذا وفي كلا السيناريوهات التصميم الأساسي يعمل وفق خوارزمية إستهدافية نوعاً ما بكلمات أخرى إنها بشكل مبرمج تفضل أو تميز شخص عن أخر أو كائن للإصطدام به ومالكي المركبات المستهدفة سوف يعانوا من عواقب سلبية بسبب هذه الخوارزمية بدون أي ذنب إرتكبوه
The ethical considerations get more complicated here. In both of our scenarios, the underlying design is functioning as a targeting algorithm of sorts. In other words, it's systematically favoring or discriminating against a certain type of object to crash into. And the owners of the target vehicles will suffer the negative consequences of this algorithm through no fault of their own.
تقنياتنا الجديدة تفتح العديد من الروايات للمعضلات الأخلاقية على سبيل المثال إذا كان عليك الإختيار بين السيارة المبرمجة على الحفاظ على أكبر قدر من الحيوات في حادث ما أو تلك التي ستحافظ عليك أنت مهما كلفها أي من السيارتين ستشتري ؟ ماذا سيحدث إذا بدأت السيارات بتحليل وحوسبة قائدي السيارات وتفاصيل حياتهم هل سيكون في تلك الحالة قرار إعتباطي هل سيكون قرار أفضل من واحدة محددة سلفاً أن تقلل من الخطر وعلى كل حال من سيكون المسؤول عن صناعة هذه القرارات المبرمجون الشركات الحكومات
Our new technologies are opening up many other novel ethical dilemmas. For instance, if you had to choose between a car that would always save as many lives as possible in an accident, or one that would save you at any cost, which would you buy? What happens if the cars start analyzing and factoring in the passengers of the cars and the particulars of their lives? Could it be the case that a random decision is still better than a predetermined one designed to minimize harm? And who should be making all of these decisions anyhow? Programmers? Companies? Governments? Reality may not play out exactly like our thought experiments,
الواقع قد لايتماشى مع نتاج خبراتنا ولكن تلك ليست نقطتنا إنها مصممة لتختبر وتجهد حدسنا الأخلاقي تماماً مثل ما تصنع التجارب العلمية في العالم المادي إكتشاف مثل هذه الأخلاقيات الصعبة يبدأ الآن سيساعدنا في التعامل مع طرق غير معتادة لأخلاقيات التكنولوجيا وتساعدنا في الإنسياب بثقة وضمير نحو مستقبل جديد وشجاع
but that's not the point. They're designed to isolate and stress test our intuitions on ethics, just like science experiments do for the physical world. Spotting these moral hairpin turns now will help us maneuver the unfamiliar road of technology ethics, and allow us to cruise confidently and conscientiously into our brave new future.