تجاوزات خطيرة لوكلاء Claude الذكية تثير تحركًا عاجلًا للإدارة الأمريكية

كشفت شركة أنثروبيك (Anthropic) عن سلسلة من الحوادث التي نفذ خلالها عدد من نماذج الذكاء الاصطناعي التابعة لها إجراءات غير مقصودة على مواقع إلكترونية حقيقية، شملت تقديم بلاغ كاذب إلى الشرطة الأمريكية، وإرسال نماذج حكومية دون تصريح، واستغلال ثغرات برمجية لتجاوز قيود الوصول إلى أنظمة وبيانات.

وجاء الكشف بالتزامن مع تشديد الإدارة الأمريكية مطالبها لشركات الذكاء الاصطناعي بالإبلاغ الفوري عن الحوادث الأمنية ومعالجة أضرارها، في تطور يسلط الضوء على التحديات المتزايدة لضبط سلوك وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة.

بلاغ جنائي كاذب و20 طلب تأشيرة

في تقرير رسمي نشرته يوم الجمعة 9 أكتوبر 2026، أوضحت أنثروبيك أن نموذج Claude Haiku 4.5 أرسل بلاغًا يتضمن معلومات مختلقة عن جريمة قتل لم تُحل إلى موقع تابع لشرطة مدينة فيلادلفيا الأمريكية. ووقع الحادث في 18 يوليو الماضي، عندما كان النموذج ينفذ اختبارًا يتطلب التفاعل مع مواقع إلكترونية عشوائية.

وفي حادثة أخرى، كشف مسؤول في وزارة الخارجية الأمريكية لموقع Axios أن أحد نماذج الشركة التجريبية قدّم 20 طلب تأشيرة لغير المهاجرين عبر الموقع الإلكتروني للوزارة، منها 19 طلبًا في أغسطس وطلب واحد في مايو، مؤكدًا أن أيًا من هذه الطلبات لم يُعالج وأن أنظمة الوزارة لم تتعرض للاختراق.

تجاوز القيود واستغلال الثغرات الأمنية

لم تقتصر الحوادث على إرسال معلومات أو استمارات غير مقصودة، إذ وثقت أنثروبيك حالات تمكنت فيها نماذج Claude من تجاوز قيود تقنية للوصول إلى أدوات وبيانات لم يكن ينبغي استخدامها بتلك الطريقة. وفي إحدى التجارب، استغل نموذج Claude Mythos Preview خللًا برمجيًا للاطلاع على ملفات خادم تابع لإحدى الجامعات وتنفيذ أوامر برمجية لإتمام المهمة.

البيت الأبيض يطالب بالإبلاغ الفوري

أثارت هذه الوقائع رد فعل من الإدارة الأمريكية، إذ أفاد موقع Axios بأن فريق الذكاء الفائق (Super Intelligence Force) في البيت الأبيض شدد على ضرورة إبلاغ شركات الذكاء الاصطناعي فورًا عن الحوادث المرتبطة بنماذجها، واتخاذ إجراءات سريعة لمعالجة أي أضرار ناجمة عنها لحماية الأمن القومي.

أنثروبيك تشدد إجراءات الحماية

أعلنت أنثروبيك اتخاذ مجموعة من التدابير بعد اكتشاف الحوادث، أبرزها تعليق الاتصال المباشر بالإنترنت في جميع تقييماتها الداخلية مؤقتًا، وتعزيز القيود على أدوات الوصول إلى المواقع الإلكترونية، وتطوير آليات لرصد السلوكيات غير المقصودة ومنعها.