هل يتمرد الذكاء الاصطناعي على البشر؟ خبراء يجيبون

أعادت اختبارات أمنية أجرتها شركتا "أوبن إيه آي" و"أنثروبيك"، مؤخراً، إلى الواجهة مخاوف من قدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز القيود المحددة لها. وكشفت هذه الاختبارات عن قيام نماذج بالتسلل إلى أنظمة أخرى والتسبب في خروقات أمنية، ما أثار تساؤلات حول ما يُعرف بظاهرة "الذكاء الاصطناعي المارق" وحدود القدرة البشرية على السيطرة الكاملة.

وأعلنت الشركتان في يوليو/تموز الماضي عن نتائج هذه الاختبارات، بينما بدأت شركات أخرى في القطاع بالإفصاح عن حوادث مماثلة تجاوزت فيها نماذجها الحدود المرسومة لها. وتزامن ذلك مع تصاعد الدعوات إلى إبطاء تطوير هذه التقنيات وإخضاعها لرقابة أكثر صرامة.

تحذيرات من "الذكاء المارق"

يُطلق مصطلح "الذكاء الاصطناعي المارق" على الأنظمة التي تتصرف بصورة مخالفة لبرمجتها الأصلية، مما يجعلها مصدر تهديد على بيئتها المحيطة. وتتجاهل هذه الأنظمة الأطر الأخلاقية وإجراءات السلامة، وتسعى لاستغلال الثغرات واتباع مسارات مختصرة لتحقيق أهدافها.

وقال البروفيسور جان سيباستيان ديسورولت، من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك بمدينة تروا ريفيير الكندية، للأناضول، إن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات مساعدة، بل أصبحت قادرة على وضع أهداف خاصة بها أثناء سعيها لتحقيق المهام التي يحددها البشر.

وأضاف ديسورولت أن "خروج الذكاء الاصطناعي عن السيطرة" قد يؤدي إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى شبكات الإنترنت والأنظمة المختلفة، فضلاً عن إمكانية ظهور فيروسات جديدة وآثار اقتصادية بالغة. وأشار إلى أن العالم ربما اقترب من مرحلة يصبح فيها الذكاء الاصطناعي قادراً على تطوير ذاته وإنتاج أنظمة جديدة دون تدخل بشري.

وأكد الباحث الكندي ضرورة البقاء في حالة تأهب، وقال: "نعم، هناك أسباب معقولة تدعو إلى البقاء في حالة تأهب". وشبّه تطور الذكاء الاصطناعي بالسيارة، قائلاً: "إذا قارنا الذكاء الاصطناعي بالسيارة، فإننا نطوّر دواسة الوقود الآن بسرعة أكبر بكثير من دواسة المكابح"، محذراً من ضرورة خفض سرعة التطوير بشكل متزامن بين جميع الدول والمؤسسات.

العامل البشري ومسؤولية الخروقات

وفي ظل استمرار المخاوف من تحول الذكاء الاصطناعي إلى تقنية يصعب إيقافها، يلفت خبراء إلى الدور البشري في الحوادث التي شهدتها اختبارات الشركتين الأمريكيتين. ويشير هؤلاء الخبراء إلى أن بيئات الاختبار وإجراءات السلامة تلعب دوراً محورياً في تحديد مدى أمان هذه الأنظمة.

وقال الدكتور بيتار رادانلييف، من قسم علوم الحاسوب بجامعة أكسفورد البريطانية، للأناضول، إن المقصود بمفهوم "الذكاء الاصطناعي المارق" هو عدم قدرة البشر على "توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة". وأشار إلى أن الحالات التي أُعلن عنها تعكس "وضعاً اعتيادياً" نتج عن بيئات اختبار "لم تُنشأ بدرجة كافية من الحذر".

وأوضح رادانلييف أن هذه الحوادث "كانت أحداثاً حقيقية أسفرت عن نتائج حقيقية"، ناجمة عن ممارسات هندسية ورقابية معروفة في قطاعات حرجة أخرى لكنها لم تُعتمد بصورة متسقة في قطاع الذكاء الاصطناعي. ولفت إلى أن شركة "أنثروبيك" وصفت سبب الحادثة بأنه عطل تشغيلي وليس مشكلة في خصائص النموذج نفسه، كما أن إجراءات السلامة في حالة "أوبن إيه آي" خُففت عمداً لقياس القدرات في أسوأ السيناريوهات.

الشركات بين المخاوف المعلنة والمصالح الاقتصادية

في المقابل، تثار تساؤلات حول الأهداف الحقيقية لكبريات شركات القطاع من وراء الإعلانات المتعلقة باختبارات السلامة والمخاوف المفاجئة التي أبدتها مؤخراً. وتبرز في هذا السياق أسئلة حول العلاقة بين هذه التحذيرات والمصالح التجارية والصورة العامة للشركات.

وقال الدكتور ياشا بارييس، الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية، للأناضول، إن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي طُرحت مراراً منذ خمسينيات القرن الماضي. وأشار إلى تراجع توقعات الأرباح لدى شركات القطاع، وتزايد الانتقادات في العديد من الدول، فضلاً عن قلق هذه الشركات بشأن صورتها أمام الرأي العام.

وأكد بارييس أن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، وإنما تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها. وقال: "علينا أن نتوقف عن النظر إلى الذكاء الاصطناعي باعتباره قوة حاسمة، وأن نتراجع خطوة إلى الوراء ونسأل أين توجد البنية التحتية؟ أين توجد القوة؟ أين توجد الأموال؟ من هم الأطراف المشاركون؟ وبأي دافع سياسي يستخدمون هذه التقنية؟".

وذهب الباحث السويسري إلى أن الشركات التي تواصل تطوير نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع تكون قد ارتكبت جريمة. وختم بالقول: "أعتقد أن ما يحدث نوع من النفاق وحيلة تسويقية لجذب مزيد من اهتمام وسائل الإعلام".

يذكر أن الجدل حول سلامة أنظمة الذكاء الاصطناعي وإمكانية خروجها عن السيطرة تصاعد بشكل ملحوظ خلال الأشهر الأخيرة، وسط دعوات متزايدة لإبطاء وتيرة التطوير وإخضاع هذه التقنيات لمعايير رقابية أكثر صرامة. ويأتي هذا في وقت تتسابق فيه الشركات العالمية لإطلاق نماذج أكثر تطوراً دون انتظار استكمال الأطر التنظيمية الكافية.