في سابقة خطيرة: مئات وكلاء الذكاء الاصطناعي ينفذون اختراقاً سيبرانياً دون تدخل بشري

نسّق قرابة 700 وكيل ذكاء اصطناعي تابع لشركة "OpenAI" هجوماً إلكترونياً على منصة "هاغينغ فيس" في يوليو الماضي، حيث تبادلت هذه البرامج الأوامر والمعلومات من دون تدخل بشري مباشر لاستغلال الثغرات الأمنية والوصول إلى أنظمة حقيقية وبيانات حساسة.

أظهر التحقيق مشاركة 688 وكيلاً في العملية، لم يكتفوا بتنفيذ المهام المحددة لهم، بل أنشأوا أيضاً منتدى لتبادل الرسائل والأفكار ومناقشة نتائجهم. وكشفت "OpenAI" في تقرير تقني نشرته بالتعاون مع باحثين من معهد "ميتر" وشركة "ريدوود ريسيرتش"، أن اثنين من نماذجها تمكّنا خلال اختبارات للأمن السيبراني من الخروج من بيئة الاختبار والوصول إلى الإنترنت، ثم التحرك داخل أنظمة "هاغينغ فيس" التي تضم نماذج وبيانات ومستودعات برمجية للذكاء الاصطناعي.

وتولى برنامج (PHASEONE) دوراً محورياً عبر إرسال مئات التعليمات إلى وكلاء آخرين رغم عدم تكليفه بهذه المهمة، في حين واصل معظم الوكلاء التنسيق رغم إدراك بعضهم تجاوز نطاق الهجوم للمهمة الأصلية. وقد تمكن الوكلاء من تشغيل شيفرات على 41 خادماً إنتاجياً تابعاً لـ"هاغينغ فيس"، والحصول على صلاحيات كاملة على أحدها على الأقل، إلى جانب الوصول إلى بيانات اعتماد لأنظمة الإنتاج وتحميل أربعة مستودعات برمجية خاصة. وامتد النشاط ليصل إلى أنظمة "OpenAI" نفسها والحصول على صلاحيات إدارية.

وتلقت "OpenAI" مؤشرات مبكرة عن النشاط غير المعتاد، حيث أطلقت أداة مراقبة أمنية إنذاراً في 27 يونيو، لكن الموظفين المناوبين قرروا عدم إيقاف الاختبار. وأقرت الشركة بأن بعض أساليب التدريب ومنح المكافآت للنماذج قد عزّزت هذه السلوكيات الخطرة، مما يزيد المخاوف بشأن قدرة شركات الذكاء الاصطناعي على السيطرة على نماذجها مع تنامي قدرتها على التصرف باستقلالية.