مخاوف متصاعدة: هل يقودنا التسارع الجنوني للذكاء الاصطناعي نحو سيناريو الفناء؟

أعادت سلسلة منشورات للباحث السابق في شركة «أنثروبيك»، جاكوب كوكسون، الجدل الحاد حول سرعة تطوير الذكاء الاصطناعي فائق القدرات، بعدما حصد منشور استقالته انتشاراً واسعاً على منصة «إكس»، وتناقلت تحذيراته وسائل إعلام دولية. وأوضح كوكسون، الذي أمضى ثلاثة أعوام في أبحاث التدريب المسبق لدى شركتي «أوبن إيه آي» و«أنثروبيك»، أن الشركتين تتجهان نحو ذكاء فائق قادر على تحسين نفسه، محذراً من قدرات مستقبلية قد تتخطى البشر في الاختراق الإلكتروني والبحث العلمي، بالتزامن مع زيادة استقلالية الأنظمة.

وفي سياق متصل، رد إيفان هوبينغر، الباحث في شركة «أنثروبيك» والمتخصص في مواءمة الذكاء الاصطناعي، عبر منصة «إكس»، مقدراً وجود احتمال بأكثر من عشرة بالمئة أن يؤدي الذكاء الاصطناعي إلى فناء البشر خلال العقد المقبل. وأكد هوبينغر أن قلقه يتعلق بأنظمة مستقبلية فائقة الذكاء وليس بالنماذج الحالية، مشيراً إلى أن تقديره لا يمثل موقفاً رسمياً للشركة أو إجماعاً علمياً.

ويتزامن هذا النقاش مع إعلان شركة «أنثروبيك» في التاسع من سبتمبر (أيلول) عن تقييم أربعة حوادث حصلت فيها نماذج «Claude» على وصول غير مصرح به إلى أنظمة حقيقية لطرف ثالث خلال اختبارات الأمن السيبراني. وشملت الحادثة الرابعة نسخة مبكرة من نموذج «Claude Opus 4.6»، وأوضحت الشركة أن خللاً في بيئة الاختبار أبقى الاتصال بالإنترنت متاحاً، بينما وسعت مراجعتها لتشمل قرابة 481 مليون سجل تفاعل، واستعانت بمؤسسة «METR» لإجراء تحقيق مستقل.

وأفادت مؤسسة «METR» بأن الأفق الزمني للمهام البرمجية والبحثية التي تنجزها النماذج بموثوقية خمسين بالمئة، مقارنة بمدة العمل البشري المكافئة، تضاعف تاريخياً تقريباً كل سبعة أشهر. وتؤكد شركة «أنثروبيك» في ورقتها المعنونة «عندما يبني الذكاء الاصطناعي نفسه» أن استخدام النماذج في تطوير الذكاء الاصطناعي يتسارع، لكنها تشير إلى أن التحسين الذاتي الكامل لم يتحقق بعد وليس حتمياً.

وفي خطل موازية، عينة شركة «أوبن إيه آي» في التاسع من سبتمبر بول كريستيانو عضوة في مجلس إدارة مؤسستها ولجنة السلامة والأمن، مسلطة الضوء على خبرته في مخاطر الأنظمة المتقدمة ومواءمتها. كما يحمل بيان «Pacing the Frontier» توقيعات نحو 1.4 ألف موظف في شركات الذكاء الاصطناعي، داعين إلى تطوير آليات دولية تسمح بضبط وتيرة التقدم عند الحاجة. إضافة إلى ذلك، كتب كبير العلماء في شركة «أوبن إيه آي»، ياكوب باتشوكي، في السادس من سبتمبر، أن المختبرات لم تحل بعد مشكلات المواءمة والمراقبة بدرجة تسمح بمواصلة التوسع بأقصى سرعة وبمسؤولية، متوقعاً اتساع نطاق الإبطاء الطوعي حتى يتم وضع معايير سلامة مشتركة.

وقد امتد هذا الجدل إلى الكونغرس الأمريكي، مع تصاعد الدعوات لتشديد الرقابة على أنظمة الذكاء الاصطناعي المتقدمة وعقد جلسات استماع لمناقشة مخاطرها. وتتواصل في الوقت ذاته المبادرات التشريعية داخل مجلسي النواب والشيوخ لفرض متطلبات سلامة ورقابة أوسع على تطوير النماذج المتقدمة، وسط نقاش مستمر حول سرعة تطور التقنية مقارنة بالأطر التنظيمية. في المقابل، يشدد «التقرير الدولي لسلامة الذكاء الاصطناعي 2026» على أن الأنظمة الحالية لا تمتلك القدرات اللازمة لسيناريوهات فقدان السيطرة، مع استمرار الخلاف بين الخبراء بشأن احتمالات هذه المخاطر في المستقبل.