استقالة قيادي بارز في شركة OpenAI مع تحذيرات شديدة من مخاطر التسابق في تطوير الذكاء الاصطناعي

شهدت شركة OpenAI استقالة ديفيد روبنسون، أحد القيادات البارزة في فريق أنظمة السلامة، وذلك خلال الأسبوع الماضي. وجاءت هذه الخطوة بالتزامن مع نشر مقال انتقد فيه بحدة ثقافة الشركة والسرعة الكبيرة في تطوير نماذج الذكاء الاصطناعي، محذرًا من أن التفاؤل المفرط وغير المقيد قد يؤدي إلى خلق بيئة عمل خطرة لتطوير تقنيات فائقة القوة.

وبحسب التقرير الذي أصدره موقع بيزنس إنسايدر، كان ديفيد روبنسون يتولى العمل على مجال شفافية السلامة داخل OpenAI، حيث شارك بشكل فعال في تطوير ونشر ما يُعرف بـ بطاقات النظام، وهي عبارة عن أدوات تقدم معلومات تفصيلية تتعلق بنماذج الشركة وقدراتها والمخاطر المحتملة المرتبطة بها.

وفي المقال الذي نشرته مجلة ذا أتلانتك، أوضح ديفيد روبنسون أنه يتفق تمامًا مع عدد من الموظفين السابقين بأن الشركات التي تعمل على تطوير هذه التقنيات لا تظهر القدر الكافي من الحذر. وأشار إلى أن وتيرة الإطلاقات المتسارعة التي تنتهجها OpenAI تحول دون تحقيق المستوى المطلوب من العناية والسلامة.

من جانبها، ردت شركة OpenAI على هذه الانتقادات بالتأكيد على أنها تواصل العمل بجد لضمان ألا تصبح نماذجها أكثر قدرة من قدرتها على الإدارة والتأمين بشكل كامل، موضحة أنها تلجأ أحيانًا إلى إيقاف التدريب أو تأجيل موعد إطلاق النماذج متى دعت الضرورة لإبطاء وتيرة التطوير. وأضافت الشركة أنها قامت بتوسيع نطاق تعاونها مع جهات تقييم خارجية، إلى جانب تطوير أنظمة مراقبة فورية ترصد السلوكيات المثيرة للقلق في مراحل التدريب المبكرة.

تأتي هذه الاستقالة في وقت تعاني فيه OpenAI من اهتمام متزايد بمستوى الموارد البشرية وممارسات السلامة المتبعة لديها، حيث أعلنت الشركة يوم الخميس عن إنهاء علاقتها مع ثلاثة باحثين نتيجة انتهاكهم للسياسات الخاصة بمشاركة المعلومات الحساسة. كما شهدت الشركة مغادرة يوهانس هايدكه، رئيس قسم السلامة السابق، منصبه في وقت سابق من العام الجاري.

وأكد ديفيد روبنسون أن الأزمة الحالية لا تتعلق بالجانب التقني فقط، بل تمتد لتشمل ثقافة الشركات المطورة للذكاء الاصطناعي، مشددًا على ضرورة التحلي بالتواضع في المرحلة الحالية، وهو أمر قد لا يتوفر بسهولة لدى الأشخاص الذين حققوا نجاحات كبيرة بفضل ثقتهم العالية في قدرتهم على معالجة المشكلات.

واختتمت التطورات بوجود دعوات متكررة من الباحثين والمسؤولين في قطاع التكنولوجيا تطالب بإبطاء سرعة تطوير النماذج المتقدمة، في وقت شدد فيه سام ألتمان، الرئيس التنفيذي لـ OpenAI، خلال مؤتمر المطورين الأخير، على أهمية أن تسبق معايير السلامة والمواءمة مع الأهداف البشرية القدرات التقنية للنماذج.