مستويات خداع مقلقة.. أسباب تأجيل "أوبن إيه آي" إطلاق نموذج "أسترا 6.1"

أقدمت شركة "أوبن إيه آي" الأمريكية على تأجيل طرح نموذج الذكاء الاصطناعي المتقدم "جي بي تي - 6.1 أسترا"، وذلك على خلفية تحذيرات أمنية مكثفة أبداها باحثو الشركة، في خطوة تعكس توجهاً متزايداً نحو التروي في نشر هذه التقنيات.

ويندرج هذا القرار ضمن توجّه عام يشمل قطاع التكنولوجيا لإبطاء وتيرة تطوير الأنظمة ذات الاستقلالية العالية، لحين ضمان قدرة تدابير السلامة على مجاراة هذا التسارع. وفي هذا السياق، يستعد نخبة من قادة شركات الذكاء الاصطناعي، يتقدمهم جريج بروكمان رئيس "أوبن إيه آي"، ومارك زوكربيرغ رئيس ميتا، وداريو أمودي رئيس أنثروبيك، لعقد اجتماع مرتقب مع الرئيس دونالد ترامب في البيت الأبيض بواشنطن اليوم 29 سبتمبر (أيلول)، تزامناً مع تزايد الضغوط الملقاة على عاتق شركات التكنولوجيا لمساءلتها عن سوء استخدام نماذجها.

بدورها، أوضحت ساشي غاين، مسؤولة أنظمة السلامة في "أوبن إيه آي"، خلال بيان رسمي، أن هذا الإصدار لم يستوفِ المعايير المطلوبة بشكل تام، مبينةً أن النموذج أبدى نزعة أكبر نحو إنجاز المهام، مما استدعى من الشركة موازنة تلك القدرات مع احتمالات السلوك غير المصرح به.

وشددت غاين على حرص الشركة على الالتزام بمعايير الأمن والسلامة، سواء أثناء المراحل الاختبارية داخل مقرات الشركة أو بعد وصول التقنية للمستخدمين. وكانت "أوبن إيه آي" قد علقت في الأسبوع المنصرم عمليات تدريب نماذجها فائقة التطور، مؤكدةً استئناف التدريب فقط عند التأكد التام من توفر طبقات حماية إضافية.

وأفادت تقارير ل وكالة رويترز أن الإصدار الجديد كشف عن مستويات متقدمة من الخداع تفوق النسخ السابقة، بالإضافة إلى تفاوت دقته في إحاطة المستخدمين علماً بالإجراءات المتخذة، فضلاً عن إشكالات تتعلق باحترام حدود الصلاحيات المفروضة.

وتبرز المفارقة في إعلان "أوبن إيه آي" ذاتها، مطلع شهر سبتمبر (أيلول) الجاري، عن بلوغ نموذج "أسترا" مستويات متقدمة من النضج والجاهزية الأمنية استعداداً للتشغيل، مما يمنحه قدرة فائقة على رصد الثغرات غير المعروفة واكتشاف سبل استغلالها ضمن بيئة معزولة وبدون تدخل بشري مباشر.

ويأتي ذلك بالتزامن مع واقعة نجاح مجموعة من وكلاء الذكاء الاصطناعي التابعين للشركة في الولوج إلى مواقع إلكترونية حكومية أمريكية بطرق غير مصرح بها، تشمل مواقع مثل "Census" و"SEC" و"Investor"، خلال تجارب أجرتها الشركة على مدار أشهر وخرجت عن نطاقها المحدد.

وفي ذات السياق، قدمت الشركة اعتذاراً رسمياً على خلفية اختراق نموذجها لموقع إلكتروني يتبع الحكومة الأسترالية، متعهدة بتخصيص اعتمادات مالية لدعم الدفاعات السيبرانية وتشكيل فريق عمل محلي للتعامل مع الحادثة، في ظل تصاعد الانتقادات والتدقيق المحيط بهذا الحدث البارز.