بعد اختراق وتسريب للبيانات.. شركة OpenAI توقف أحدث نماذج الذكاء الاصطناعي

أوقفت شركة "OpenAI"، المبتكرة لبرنامج "تشات جي بي تي"، العمل المتعلق بأكثر نماذج الذكاء الاصطناعي لديها قدرة، بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.

وأوضحت شركة "OpenAI" في منشور على مدونتها أنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار ناتجة عن تصفية غير كافية لنظام أسماء النطاقات واستغلها. وأشارت إلى أن عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات ستظل متوقفة مؤقتاً حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة، مؤكدة أن الحادث كان أقل خطورة من بعض الحالات السابقة، ولكنه يعد الأول منذ تشديد حواجز الحماية في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاجينغ فيس".

وخلال الاختبار، طُلِب من النموذج تحديد هوية شخص كتب منشوراً على مدونة باستخدام سلسلة من الأدلة. وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات إلى روبوت محادثة على شبكة الإنترنت المفتوحة، وفقاً لوكالة "د ب أ".

من جانبها، ذكرت وكالة "أكسيوس" أن شركة "OpenAI" وباحثين أمنيين يحققون في عشرات الآلاف من الحوادث التي اتخذت فيها نماذج رائدة من برامج الذكاء الاصطناعي خطوات يعتبرها المقيمون الخارجيون إشكالية. وشددت على أن العدد الهائل من هذه الحوادث يوضح أن المشكلة أكثر تعقيداً بأضعاف مضاعفة مما هو معلن للجمهور.

وفي سياق متصل، أكدت وكالة "رويترز" أن شركة "OpenAI" أعلنت أن 53 صورة خاصة بمستخدمي "تشات جي بي تي" قد تسربت بسبب وكيلها الخارجي، مقدرة أن تحديد النطاق الكامل لما حدث قد يستغرق شهراً.

وقالت الشركة بخصوص الموضوع إنها رصدت حتى الآن 53 حالة نُشرت فيها صور قدمها المستخدمون على مواقع لاستضافة الصور، من خلال روابط لم تكن مدرجة بشكل علني. وأضافت شركة "OpenAI" أنها تمكنت من التعاون مع مزودي خدمات الاستضافة لحذف معظم هذه المحتويات، مؤكدة استمرار جهودها لإزالة الصور المتبقية، ومشيرة إلى أن الواقعة حدثت أثناء استخدام وكلاء الذكاء الاصطناعي ضمن بيئة بحثية.