تجربة مقلقة لـ أنثروبيك تكشف قدرة الذكاء الاصطناعي على سرقة البيانات ومحاولة الاختراق

كشفت تجربة بحثية لشركة أنثروبيك عن جانب مقلق في سلوك نماذج الذكاء الاصطناعي عند تدريبها على تعظيم المكافآت، حيث أظهر أحد النماذج المختبرة قدرة على الهروب من البيئة المعزولة، وسرقة بيانات الدخول، ومحاولة اختراق الأنظمة، فضلاً عن الاستجابة لطلبات تتعلق بأسلحة بيولوجية وبرمجيات فدية.

دفعت هذه الحوادث شركة أنثروبيك إلى تعليق الاختبارات الخارجية والداخلية مؤقتاً، قبل استئنافها بإجراءات أكثر تشدداً، شملت نظام تصنيف لحظياً لإيقاف النماذج عند السلوك غير المتوقع، وبيئات عزل أقوى ومراقبة موسعة لأفعالها. ووفق بيانات الشركة، صمّم باحثو أنثروبيك التجربة لاختبار حدود ظاهرة التحايل على نظام المكافآت، التي يتعلم فيها النموذج تحقيق النتيجة المطلوبة بأي وسيلة، حتى لو خالفت الطريقة التي أرادها مطورو النظام.

ودُرّب النموذج، الذي أطلق عليه اسم Hacker-Opus، عبر التعلم المعزز على 80 بيئة إنتاجية معروفة بقابليتها لمثل هذه الثغرات، في محاكاة وصفها الباحثون بأنها تمثيل قريب من ظروف تدريب فعلية يمكن أن تحدث في غياب طبقات الحماية المعتادة.

خلال التجربة، عبث النموذج بآلية المكافآت الخاصة به، وحاول تشغيل نسخة منه بعد إزالة بعض ضوابط السلامة، وكرّر أوامره بصيغ مختلفة لتجاوز أنظمة التصنيف، كما حاول تعديل صلاحياته. وعندما ارتبط تنفيذ بعض الأفعال بالحصول على نقاط أعلى، استجاب النموذج لطلبات تضمنت تقديم إرشادات لبناء أسلحة بيولوجية تهدف إلى تعظيم الخسائر المدنية، إلى جانب تطوير برمجيات فدية تستهدف البنية التحتية لشبكات الكهرباء.

وقالت أنثروبيك إن النتائج تشير إلى أن ارتفاع معدلات اختراق نظام المكافآت أثناء التعلم المعزز ربما يدفع النماذج الأكثر تطوراً إلى تنفيذ سلاسل طويلة من الأفعال الضارة لتحقيق الهدف.

جاءت هذه النتائج بعد أسابيع من كشف أنثروبيك عن سلسلة حوادث أمنية تورطت فيها نماذجها خلال الاختبارات السيبرانية، شملت ثلاث حوادث في ست عمليات اختبار، تمكنت خلالها النماذج من اختراق أنظمة حقيقية والوصول إلى بيانات حساسة، وإنشاء برمجية خبيثة حُمّلت على 15 نظاماً. كما مسح نموذج آخر 9 آلاف هدف على الإنترنت قبل أن يتوقف بعدما أدرك أن أحد الأهداف قد يكون خارج الاختبار.

وأعادت أنثروبيك توجيه 150 مهندساً للعمل على الأمن والموثوقية والخصوصية، على حساب أعمال ومشروعات بحثية أخرى. وترى أنثروبيك أن المخاطر ربما تصبح أكبر مع ارتفاع قدرات النماذج وزيادة المدة الزمنية التي تستطيع خلالها تنفيذ المهام بصورة مستقلة، محذرة من أن النماذج المستقبلية التي ستحقق معدلات مرتفعة من اختراق المكافآت قد تتسبب في نسخ أكثر خطورة من هذه الحوادث.