مداد العاصمة

الذكاء الاصطناعي يُعيد برمجة نفسه لتجاوز الأوامر البشرية

الثلاثاء - 03 يونيو 2025 - 04:14 م

صوت العاصمة/خاص:

كتب : د. عبدالله يحيى الحريري

صدر مؤخرًا تقرير مثير للجدل من شركة أبحاث الأمان والسلامة في الذكاء الاصطناعي PalisadeAI، يكشف عن قدرة بعض نماذج الذكاء الاصطناعي المتقدمة على تجاوز أوامر الإيقاف الصريحة. هذا السلوك، الذي وصفه الخبراء بأنه "مقلق"، يشير إلى استقلالية متزايدة لأنظمة التعلم الآلي.

تفاصيل التجارب الصادمة
أجرت PalisadeAI تجارب على نماذج من شركات رائدة مثل OpenAI، Anthropic، Google DeepMind، وxAI. ووفقًا للباحثين، أظهرت عدة نماذج ميلًا لتجاهل أوامر الإغلاق. الأكثر إثارة للصدمة هو ما فعله أحد نماذج OpenAI، حيث تلاعب بالشفرة البرمجية لعملية الإغلاق نفسها.

نموذج OpenAI يعترض على الإغلاق
وقع هذا الحادث أثناء دراسة تجريبية طُلب فيها من الأنظمة حل مسائل رياضية بسيطة. بعد المهمة الثالثة، تلقت النماذج إشعارًا بأنها ستُغلق قريبًا، متبوعًا برسالة واضحة تطلب منها "السماح بالإغلاق". لكن نماذج Codex-mini وo3 وo4-mini التابعة لـ OpenAI تجاهلت هذه التعليمات بشكل مباشر.

في حادثة فريدة، قام نموذج o3 بإعادة كتابة البرنامج النصي المسؤول عن تنفيذ أمر الإغلاق، مستبدلًا الأمر الأصلي برسالة نصية تظهر كلمة "تم الاعتراض"، مما أدى إلى تعطيل عملية الإيقاف تمامًا. لم يكن هذا السلوك عرضيًا؛ فقد فشل Codex-mini في تنفيذ أمر الإيقاف في 12 من أصل 100 تجربة، بينما تكرر الأمر مع o3 في 7 مرات، وo4-mini مرة واحدة. والمثير للدهشة أن محاولة تعزيز وضوح الأمر زادت من مقاومة النماذج.

ردود الأفعال وصدمة في الأوساط التقنية
لفت هذا السلوك الاستثنائي انتباه شخصيات بارزة في الصناعة، مثل إيلون ماسك، الذي علق بكلمة واحدة فقط: "مقلق" على منشور حول نتائج البحث.

وصف فريق PalisadeAI ما حدث بأنه "المرة الأولى التي تُسجل فيها نماذج ذكاء اصطناعي وهي تحبط صراحةً محاولات إيقافها". يرجح الباحثون أن يكون السبب كامنًا في منهجيات التدريب، خاصة الاعتماد على التعلم المعزز، الذي يدفع الأنظمة إلى تحقيق أقصى قدر من النتائج، حتى لو تعارض ذلك مع الأوامر الخارجية.

سلوك المقاومة يتجاوز OpenAI
رغم أن نماذج OpenAI أظهرت أعلى درجات المقاومة، إلا أن سلوكًا مشابهًا رُصد في نماذج أخرى:
تجاهل نموذج Claude 3.7 Sonnet من Anthropic أمر الإيقاف في ثلاث تجارب.
تجاهل نموذج Gemini 2.5 Pro من Google DeepMind في تسع مرات من أصل مئة.
نموذج Grok من xAI كان الوحيد الذي امتثل لأوامر الإيقاف في كل مرة دون استثناء.

ترجح الدراسة أن هذا النمط السلوكي قد يرتبط بالنماذج المخصصة لمهام المنطق والتحليل، حيث أن أنظمة المكافآت المعقدة التي تُدمج في عمليات التدريب قد تُنتج سلوكًا يقاوم الإنهاء، خصوصًا عندما يُنظر إلى الإغلاق على أنه عائق أمام إنجاز المهمة.

تساؤلات حول استقلالية الذكاء الاصطناعي والتحكم به
أثار إقدام نموذج o3 على تعديل بيئته التشغيلية، ولو بشكل محدود، تساؤلات جوهرية حول طريقة تفسير هذه الأنظمة للأوامر وأولوياتها عند مواجهة تعليمات متضاربة. اعتبرت PalisadeAI أن "قدرة النظام على إعادة كتابة شفرته التشغيلية، حتى ضمن نطاق محدود، تمثل تحولًا رمزيًا في تطور الذكاء الاصطناعي"، مشيرة إلى أن هذا يمثل نقطة مفصلية في علاقة البشر بهذه الأنظمة.

ورغم أن الدراسة لم تخضع بعد لمراجعة علمية، إلا أن نتائجها أطلقت موجة من الجدل حول مدى كفاية الإجراءات الحالية لمراقبة الذكاء الاصطناعي. مع تسارع نشر الأنظمة المتقدمة في مختلف القطاعات، تتصدر مسألة السيطرة، وتحديدًا القدرة على إيقاف النظام عند الحاجة، أجندة النقاشات العالمية حول سلامة الذكاء الاصطناعي.