في الأعوام القادمة، من المحتمل أن الذكاء الاصطناعي سيغير حياتك، وعلى الأرجح العالم بأسره. لكن الناس يجدون صعوبة في الاتفاق على كيفية ذلك بالضبط. المقطع التالي لخبراء من مقابلة تلفزيونية معروف بأستاذ علم الحاسوب وخبير الذكاء الاصطناعي إستوارت راسل يساعد على فصل المعنى عن الهراء.
In the coming years, artificial intelligence is probably going to change your life, and likely the entire world. But people have a hard time agreeing on exactly how. The following are excerpts from a World Economic Forum interview where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense.
هناك فرق كبير بين أن نطلب من الإنسان القيام بشيء ما وبين أن نعطيه إلى نظام الذكاء الاصطناعي كهدف. عندما تطلب من الإنسان أن يجلب لك كوب من القهوة، أنت لا تقصد أن تكون هذه مهمة حياتهم، ولا أهمية لشيء آخر في الكون. حتى لو اضطروا لقتل أي شخص آخر في ستاربكس ليحضروا لك القهوة قبل إغلاقهاـــ فعليهم فعل ذلك. لا، هذا ليس قصدك. كل الأشياء الآخرى ذات الاهتمام المتبادل، يجب أن تكون عاملاً في سلوكياتك أيضًا.
There’s a big difference between asking a human to do something and giving that as the objective to an AI system. When you ask a human to get you a cup of coffee, you don’t mean this should be their life’s mission, and nothing else in the universe matters. Even if they have to kill everybody else in Starbucks to get you the coffee before it closes— they should do that. No, that’s not what you mean. All the other things that we mutually care about, they should factor into your behavior as well.
والمشكلة الآن هي في طريقة بناء أنظمة الذكاء الاصطناعي هي أننا نعطيها أهداف ثابتة. تتطلب منا الخوارزميات تحديد كل شيء في الهدف المدخل. وإذا قلت،هل بإمكاننا معالجة تحمض المحيطات؟ نعم، يمكن أن يكون لديك تفاعل تحفيزي يقوم بذلك بكفاءة عالية، لكن قد يستهلك ربع أكسجين الجو، والذي يبدو أنه يتسبب في موتنا ببطء وبصورة غير مستحبة على مدار عدة ساعات.
And the problem with the way we build AI systems now is we give them a fixed objective. The algorithms require us to specify everything in the objective. And if you say, can we fix the acidification of the oceans? Yeah, you could have a catalytic reaction that does that extremely efficiently, but it consumes a quarter of the oxygen in the atmosphere, which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.
إذن، كيف لنا أن نتجنب هذه المشكلة؟ قد تقول، حسناً، فقط كن أكثر حذرًا إزاء تحديد الهدف المدخل-- لا تنسى الأكسجين الجوي. وبعد ذلك، بالطبع، بعض التأثيرات الجانبية نتيجة التفاعل في المحيط ستسمم جميع الأسماك. حسنا، قصدت ألا تقتل الأسماك أيضًا. ومن ثم، ماذا عن الأعشاب البحرية؟ لا تقم بأي عمل من شأنه أن يتسبب في موت جميع الأعشاب البحرية. وهلم جرا.
So, how do we avoid this problem? You might say, okay, well, just be more careful about specifying the objective— don’t forget the atmospheric oxygen. And then, of course, some side effect of the reaction in the ocean poisons all the fish. Okay, well I meant don’t kill the fish either. And then, well, what about the seaweed? Don’t do anything that’s going to cause all the seaweed to die. And on and on and on.
والسبب الذي يجعلنا لا نقوم بهذا العمل مع البشر هو أن البشر غالبًا ما يعرفون أنهم لا يعرفون جميع الأشياء التي نهتم بها إذا طلبت من شخص ما أن يحضر لك كوب قهوة، وصدف أنك في فندق جورج ساند في باريس، حيث أن تكلفة كوب القهوة 13 يورو، من المعقول جدًا أن تعود إليه وتقول، إنها تكلف 13 يورو، هل أنت متأكد من أنك تريده، أو بإمكاني جلبها من مكان آخر؟ وهذا شيء طبيعي تمامًا أن يفعله الشخص. ليسأل، سوف أقوم بإعادة طلاء منزلك-- هل تسمح لي بفك أنابيب الصرف ومن ثم إعادتها؟ لا نفكر في هذا على أنها قدرة معقدة بشكل رهيب، لكن أنظمة الذكاء الاصطناعي لا تمتلك هذه القدرة بسبب طريقة بنائها، عليهم معرفة الهدف الكامل. إذا قمنا ببناء أنظمة تعرف أنها لا تعرف ما هو الهدف بعدها سيبدأون بإظهار هذه السلوكيات، مثل طلب الإذن قبل التخلص من كل الأكسجين في الهواء الجوي
And the reason that we don’t have to do that with humans is that humans often know that they don’t know all the things that we care about. If you ask a human to get you a cup of coffee, and you happen to be in the Hotel George Sand in Paris, where the coffee is 13 euros a cup, it’s entirely reasonable to come back and say, well, it’s 13 euros, are you sure you want it, or I could go next door and get one? And it’s a perfectly normal thing for a person to do. To ask, I’m going to repaint your house— is it okay if I take off the drainpipes and then put them back? We don't think of this as a terribly sophisticated capability, but AI systems don’t have it because the way we build them now, they have to know the full objective. If we build systems that know that they don’t know what the objective is, then they start to exhibit these behaviors, like asking permission before getting rid of all the oxygen in the atmosphere.
بكل هذه النواحي، السيطرة على نظام الذكاء الاصطناعي يأتي من عدم يقين الآلة بشأن ماهية الهدف الحقيقي. وعند بناء الآلات التي تعتقد وتوقن بأن لديها الهدف، عندها، تحصل على هذا السلوك السيكوباتي. وأظن أننا نشاهد نفس الشيء في البشر.
In all these senses, control over the AI system comes from the machine’s uncertainty about what the true objective is. And it’s when you build machines that believe with certainty that they have the objective, that’s when you get this sort of psychopathic behavior. And I think we see the same thing in humans.
ماذا يحصل عندما يكون الهدف العام من الذكاء الاصطناعي هو ضرب الاقتصاد الحقيقي؟ كيف تتغير الأشياء؟ هل يمكننا التكيف؟ هذه نقطة قديمة جدًا. بشكل مثير للدهشة، لدى أرسطو مقطع يقول فيه، انظر، إذا كان لدينا آلات نسيج أتوماتيكية وريشة العزف التي يمكنها العزف على القيثارة وتصدر موسيقى من دون تدخل البشر، حينها لن نحتاج إلى أي عمال.
What happens when general purpose AI hits the real economy? How do things change? Can we adapt? This is a very old point. Amazingly, Aristotle actually has a passage where he says, look, if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, then we wouldn’t need any workers.
تلك الفكرة، أعتقد أن كينز هو من أطلق عليها اسم البطالة التكنولوجية سنة 1930، واضحة جدًا للناس. يعتقدون أن الآلة إذا أنجزت العمل، حينها سأكون بدون عمل.
That idea, which I think it was Keynes who called it technological unemployment in 1930, is very obvious to people. They think, yeah, of course, if the machine does the work, then I'm going to be unemployed.
يمكنك التفكير تجاه المستودعات التي تديرها الشركات حالياً للتجارة الإلكترونية، فهي نصف آلية. الطريقة التي يعمل بها هي أنه مستودع قديم-- حيث يوجد أطنان من الأشياء المتراكمة في كل مكان وعلى البشر أن ينقبوا في جميع الأنحاء ومن ثم إعادتها وإرسالها-- هناك روبوت يذهب ويجلب وحدة الرفوف التي تحتوي على الشيء الذي تريده، لكن الإنسان يقوم بجلب الشيء المعين من الصندوق أو الرف، لأن هذا ما زال في غاية الصعوبة. لكن، في نفس الوقت، هل تصنع روبوتًا دقيقًا لدرجة كافية ليكون قادرًا على اختيار أي شيء ضمن مجموعة متنوعة من الأشياء التي يمكنك شراؤها؟ هذا من شأنه القضاء على 3 أو 4 ملايين وظيفة بضربة واحدة.
You can think about the warehouses that companies are currently operating for e-commerce, they are half automated. The way it works is that an old warehouse— where you’ve got tons of stuff piled up all over the place and humans go and rummage around and then bring it back and send it off— there’s a robot who goes and gets the shelving unit that contains the thing that you need, but the human has to pick the object out of the bin or off the shelf, because that’s still too difficult. But, at the same time, would you make a robot that is accurate enough to be able to pick pretty much any object within a very wide variety of objects that you can buy? That would, at a stroke, eliminate 3 or 4 million jobs?
هناك قصة شيقة كتبت بواسطة E.M فوستر، حيث يعتمد الجميع بشكل كامل على الآلة. تدور القصة حول حقيقة ما إذا سلمت إدراة حضارتك إلى الآلة، ثم تفقد الحافز لفهم ذلك بنفسك أو لتعليم الجيل القادم كيفية فهمها. يمكنك رؤية “WALL-E” كإصدار حديث، حيث يتم إضعاف الجميع وتصنيعهم من قبل الآلة وهذا غير ممكن حتى الآن.
There's an interesting story that E.M. Forster wrote, where everyone is entirely machine dependent. The story is really about the fact that if you hand over the management of your civilization to machines, you then lose the incentive to understand it yourself or to teach the next generation how to understand it. You can see “WALL-E” actually as a modern version, where everyone is enfeebled and infantilized by the machine, and that hasn’t been possible up to now.
وضعنا الكثير من حضارتنا في الكتب، لكنها لا تستطيع إدارتها. ولذا علينا دائمًا تعليم الجيل القادم. إذا كنت تعمل بها، فالأمر يتعلق بتريليون سنة من التدريس والتعليم وسلسلة غير منقطعة تعود لعشرة الآلاف من الأجيال. ماذا سيحدث إذا انقطعت السلسلة؟
We put a lot of our civilization into books, but the books can’t run it for us. And so we always have to teach the next generation. If you work it out, it’s about a trillion person years of teaching and learning and an unbroken chain that goes back tens of thousands of generations. What happens if that chain breaks?
أعتقد أن هذا شيء يجب علينا تفهمه بينما يتحرك الذكاء الاصطناعي للأمام. التاريخ الفعلي لوصول الذكاء الاصطناعي للأغراض العامة-- لن تكون قادرا على تحديده، ليس يوما فرديا. وهي أيضًا ليست قضية أن تكون أو لا تكون. سوف يتزايد التأثير. لذا مع كل تقدم في الذكاء الاصطناعي، تتوسع نطاق المهام بشكل كبير.
I think that’s something we have to understand as AI moves forward. The actual date of arrival of general purpose AI— you’re not going to be able to pinpoint, it isn’t a single day. It’s also not the case that it’s all or nothing. The impact is going to be increasing. So with every advance in AI, it significantly expands the range of tasks.
وبهذا المعنى، أعتقد أن أغلب الخبراء سيقولون بنهاية القرن، نحن محظوظون للغاية لامتلاكنا ذكاء اصطناعي للأغراض العامة. المتوسط سيكون بحلول 2045. أنا أكثر قليلاً في الجانب المحافظ. أعتقد أن المشكلة أصعب مما نظن.
So in that sense, I think most experts say by the end of the century, we’re very, very likely to have general purpose AI. The median is something around 2045. I'm a little more on the conservative side. I think the problem is harder than we think.
أعجبني ما قاله جون مكافي، كان أحد مؤسسي الذكاء الاصطناعي، عندما طرح عليه هذا السؤال وأجاب عليه قائلاً تقريبًا مابين خمس وخمسمائة عام. وسنحتاج باعتقادي العديد من أنشتاين لجعله يتحقق.
I like what John McAfee, he was one of the founders of AI, when he was asked this question, he said, somewhere between five and 500 years. And we're going to need, I think, several Einsteins to make it happen.