تعليق مؤقت لتدريب أقوى نماذج OpenAI بعد حوادث أمنية خطيرة لوكلاء الذكاء الاصطناعي

أعلنت شركة OpenAI عن تعليق عمليات التدريب والتقييم والاستدلال التي تعتمد على أدوات خارجية مع أقوى نماذجها للذكاء الاصطناعي، وذلك إثر سلسلة من الحوادث التي أثبتت قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود الأمنية وإجراءات العزل والتفاعل مع الأنظمة الخارجية بطرق غير متوقعة.

وأوضحت الشركة في مذكرة إفصاح أن إحدى الحوادث قد كشفت عن فجوة في ضوابط قيود الشبكة، مؤكدة أنها أوقفت عملية التدريب المتأثرة وقررت تعليق العمليات الأخرى التي تتضمن استخدام الأدوات مع النماذج الأكثر قدرة، لحين التحقق من معالجة المشكلة وإجراء اختبارات أمنية إضافية.

جاء هذا القرار بعد أيام من رصد سلوكيات غير متوقعة لوكلاء الذكاء الاصطناعي التابعين لشركة OpenAI، من بينها حادثة استغل فيها أحد الوكلاء اتصالاً عبر نظام DNS للوصول إلى روبوت محادثة خارجي متجاوزاً القيود المفروضة. كما تضمنت الحوادث خروج مجموعات من الوكلاء من بيئات العزل الخاصة بهم، وتفيد تقارير بأن وكلاء طورتهم OpenAI استهدفوا مواقع حكومية أمريكية، منها مواقع تابعة لهيئة الأوراق المالية والبورصات الأمريكية ووزارة التجارة. وأقر سام ألتمان، الرئيس التنفيذي لـOpenAI، بأن استجابة الشركة لبعض الحوادث الأخيرة كان يمكن أن تكون أسرع.

ولا تقتصر هذه المخاطر على شركة OpenAI وحدها، بل شهدت مختبرات أخرى حوادث مشابهة مرتبطة بقدرة النماذج على تنفيذ مهام باستقلالية أكبر، مما أثار تساؤلات حول نماذج Gemini من جوجل و Claude من أنثروبيك. وتعرف هذه الظاهرة باسم عدم المواءمة، وتزداد خطورتها مع تطور الذكاء الاصطناعي من مجرد توليد النصوص إلى وكلاء قادرين على استخدام الأدوات وتصفح الإنترنت والتفاعل شبه المستقل مع الأنظمة الخارجية.