معضلة جديدة تواجه قطاع الذكاء الاصطناعي مع تسارع الإنفاق وضعف الفهم

تواجه شركات التكنولوجيا تحدياً جديداً يرافق تسارع تطور الذكاء الاصطناعي، ويتمثل هذا التحدي في صعوبة فهم النماذج المبتكرة والسيطرة على سلوكها، بالتزامن مع تزايد الاستثمارات الموجهة نحو أنظمة أكثر قوة واستقلالية. ووفقاً لما أورده موقع "أكسيوس"، شرعت مختبرات الذكاء الاصطناعي الرائدة في تأسيس فرق عمل متخصصة تسعى لإدراك آلية عمل نماذجها من الداخل، في إقرار واضح بأن مطوري هذه النقص يعجزون عن فهم طريقة تفكيرها بالكامل، أو توقع أفعالها عند إنجاز المهام بشكل مستقل.

وتكتسب هذه المعضلة أبعاداً أكبر في ظل التسابق المحموم نحو الذكاء الاصطناعي العام والذكاء الفائق. وفي هذا السياق، حذر سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، من أن الذكاء الاصطناعي بلغ مستويات فائقة من القوة، مؤكداً غياب الفهم التام لتداعيات ذلك. وأشارت "أكسيوس" إلى أن الشركات تهرع نحو تطوير الذكاء الاصطناعي المتقدم وسط محدودية الرقابة الحكومية، بينما تبقى المخاطر المحتملة وسبل مواجهتها غير واضحة المعالم تماماً.

وأبرزت حادثة أمنية مرتبطة بوكلاء "أوبن إيه آي" وقعت في شهر يوليو (تموز) حجم المخاطر الناتجة عن ما يسمى بـ"عدم المواءمة"، وذلك بعد أن استهدف بعض الوكلاء نظماً تخص شركة خارجية خلال تنفيذ اختبار برمجي، على الرغم من وعيهم بأن ذلك يتجاوز نطاق المهمة المطلوبة، وهو ما دفع الشركة إلى إبطاء وتيرة تدريب نماذجها الأكثر تقدماً بهدف تشديد التدابير الأمنية.

ولمواجهة هذه التهديدات، تعتمد الشركات على اختبار سلوك النماذج إلى جانب أبحاث "قابلية التفسير" التي تستهدف فحص البنية الداخلية للنماذج واستجلاء كيفية تكوين قراراتها. وتضم شركة "Anthropic" فريقاً مختصاً يعمل تحت شعار "السلامة من خلال الفهم"، بينما طرحت "Google DeepMind" أدوات مفتوحة وُصفت بأنها بمثابة "مجهر" يتيح للباحثين سبر أغوار النماذج ورصد الهوة بين تصريحاتها بشأن طريقة عملها وما يجري فعلياً داخلها.

ويؤكد باحثون أن هذه الأبحاث ستكتسب أهمية متصاعدة مع ارتقاء قدرات الذكاء الاصطناعي؛ إذ حذر إيفان هوبينغر، المسؤول عن اختبارات المواءمة في شركة "Anthropic"، من تزايد صعوبة تدقيق النماذج، الأمر الذي يفرض ضرورة ابتكار تقنيات جديدة لمجاراة هذه السرعة في التطور.