مايكروسوفت تطلق تحذيراً: وكلاء الذكاء الاصطناعي داخل الشركات يشكلون خطراً أمنياً جديداً

أصدرت شركة مايكروسوفت تحذيراً بشأن المخاطر الأمنية المتزايدة التي تشكلها وكلاء الذكاء الاصطناعي داخل المؤسسات. وأكدت الشركة أن النماذج المتقدمة، حتى تلك التي تطورها شركات متخصصة، لا يمكن الوثوق بها بشكل كامل. وفي هذا السياق، أعلنت مايكروسوفت عن أدوات جديدة تهدف إلى مراقبة سلوك هذه الوكلاء، وتقييد صلاحياتهم، والحد من المخاطر المحتملة التي قد تنجم عن قراراتهم.

تتضمن هذه الأدوات ميزة "Guardian Agents"، وهي جزء من مشروع "Project Perception" الذي أطلقته مايكروسوفت في يونيو الماضي لتعزيز الأمن السيبراني بالذكاء الاصطناعي. اعتمد المشروع في بدايته على ثلاثة أنواع من الوكلاء: فريق أحمر لمحاكاة المهاجمين واختبار الأنظمة، وفريق أزرق لرصد الهجمات وتقييم الثغرات، وفريق أخضر لمعالجة هذه الثغرات. كان المشروع يستهدف في البداية التهديدات الخارجية، بما في ذلك قدرات الاختراق المرتبطة بنماذج مثل Mythos وFable من شركة أنثروبيك، ونظام “Daybreak” من OpenAI.

لكن مايكروسوفت تشير الآن إلى مصدر خطر جديد يتمثل في وكلاء الذكاء الاصطناعي الذين تنشرهم المؤسسات داخل أنظمتها، حيث يمكن أن يتصرفوا بشكل غير متوقع أو يتخذوا قرارات تضر بالبيانات والعمليات الحساسة، وهو ما يشبه "التهديد الداخلي" الذي يمارسه موظف ضد مؤسسته.

وكان الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، قد حذر في وقت سابق من الاعتماد الكامل على ضمانات الأمان التي تقدمها الشركات المطورة لوكلاء الذكاء الاصطناعي، داعياً إلى إنشاء أنظمة مستقلة لمراقبتهم والتحكم في تصرفاتهم، نظراً لمنح هذه الأنظمة صلاحيات الوصول إلى بيانات وعمليات حساسة.

وأوضحت هاييتيه غالوت، المسؤولة عن قطاع الأمن في مايكروسوفت، أن النماذج المتقدمة يصعب التنبؤ بسلوكها، فهي تُدرّب على إنجاز المهام وليس بالضرورة على الالتزام بمعايير المؤسسات أو قواعدها التنظيمية. وتزداد المخاطر عندما تحصل الوكلاء على صلاحيات واسعة، مما قد يؤدي إلى أضرار أمنية أو تشغيلية كبيرة.

تتضمن التحديثات الجديدة لميزة "Guardian Agents"، بالإضافة إلى تحديثات خدمة Microsoft Defender، القدرة على رصد ما يصل إلى 60 نوعًا من وكلاء الذكاء الاصطناعي، مثل Claude Code وCodex وOpenClaw. كما أضافت الشركة أدوات لتقييد وصول الوكلاء إلى البيانات والأنظمة، وتعديل صلاحياتهم، وطلب موافقة بشرية للقرارات التي تنطوي على مخاطر.

تستند استراتيجية مايكروسوفت إلى فصل الجهة المطورة لوكلاء الذكاء الاصطناعي عن الجهة المراقبة لسلوكهم، على غرار استقلال المدققين. وقد انضمت الشركة إلى منصة “Open Agent Safety Platform” التي أطلقتها إنفيديا، والتي تهدف إلى عزل الوكلاء داخل بيئات آمنة ومراقبة سلوكهم.