شركة أنثروبيك تكشف عن محاولات استخدام نموذج Claude في أبحاث خطيرة للأسلحة البيولوجية

كشفت شركة أنثروبيك عن رصدها عدة حالات استخدم فيها علماء نماذج الذكاء الاصطناعي التابعة لها، وعلى رأسها نموذج Claude، للمساعدة في أبحاث قد ترتبط بتطوير أسلحة بيولوجية قبل أن تتدخل الشركة لوقفها.

وأوضحت الشركة في تقرير حديث أنها وثّقت خمس حالات لاستخدام نماذجها في أنشطة محتملة تتعلق بتطوير أسلحة بيولوجية، بالإضافة إلى الإجراءات الأمنية التي ساهمت في اكتشاف هذه الاستخدامات وطريقة تعامل الشركة معها. ويأتي هذا التطور في وقت أصبحت فيه النماذج الحديثة أكثر قدرة على مساعدة الباحثين في إنجاز مهام علمية متقدمة، مما يرفع بدوره من مخاطر إساءة الاستخدام.

وأكدت أنثروبيك أن رصد هذا النوع من الاستخدامات يمثل تحديًا معقدًا، نظراً لتشابه بعض الطلبات المرتبطة بأبحاث خطرة مع الأبحاث العلمية المشروعة، مثل تطوير اللقاحات ودراسة الأمراض المعدية. ومن بين الحالات التي وثقها التقرير، رصد نظام “مصنف السلامة البيولوجية” التابع للشركة طلبًا لاستخدام Claude في أبحاث “اكتساب الوظيفة” على فيروس شيكونغونيا، والتي تضمنت مقترحات لتعديلات تزيد من قدرة الفيروس على الانتقال وتفادي الاستجابة المناعية، لاسيما وأن المشروع ارتبط بمعهد أبحاث عسكري.

كما رصدت الشركة حالة أخرى تخص أبحاث اكتساب الوظيفة على إنفلونزا الطيور، وحالة استخدم فيها باحث نموذج Claude لإعداد أطلس لببتيدات السموم وتطوير منظومة توليدية لتحسين خصائصها. ولم تقتصر الحالات على المجال البيولوجي فحسب، بل شملت أيضًا إساءة استخدام النماذج في مجالات المراقبة، وإنشاء برمجيات استغلال الثغرات، وإنتاج الدعاية، وتطوير أنظمة أسلحة.

من جانبه، أشار رئيس استخبارات التهديدات في أنثروبيك، جاكوب كلاين، إلى أن اكتشاف الأنشطة الضارة ليس بالأمر المباشر، مؤكدًا أن الحالات الواقعية أكثر تعقيدًا. وأكدت الشركة أنها قامت بحظر حسابات المستخدمين المسيئين، مع الاستفادة من التحقيقات لتطوير أنظمة الحماية، مع الامتناع عن كشف أسماء الباحثين أو المؤسسات المعنية لحمايتهم من الأذى ولأن الشركة لا تؤكد نيتهم إلحاق الضرر.