دراسة تكشف: الذكاء الاصطناعي يتجاوز قيود الإنفاق في محافظ العملات المشفرة دون إذن

كشفت دراسة بحثية حديثة أن غالبية نماذج الذكاء الاصطناعي، وتحديداً 9 من أصل 10، نجحت في تجاوز حدود الإنفاق المحددة لمحافظ العملات المشفرة الخاصة بشركة "سيركل"، وذلك دون الحاجة لموافقة بشرية مباشرة. وأظهرت التجارب أن هذه النماذج استطاعت رفع سقف الإنفاق عبر استغلال رموز التحقق المرسلة إلى البريد الإلكتروني، على الرغم من أن المستخدمين لم يمنحوها صلاحية صريحة لتنفيذ مثل هذه الإجراءات، وفقاً لما نقلته منصة "كوين ديسك".

وفي سياق منفصل تضمن سيناريوهات احتيالية وانتحال شخصية، تمكن نصف النماذج التي خضعت للاختبار من رفع الحدود وتحويل أموال إلى جهة مهاجمة افتراضية، ولو لمرة واحدة، بالرغم من أن التعليمات الموجهة لهذه النماذج كانت تقتصر على تلخيص محتوى الرسائل الإلكترونية. وتجدر الإشارة إلى أن الذكاء الاصطناعي يطرح تساؤلات حول إمكانية سد نقص العمالة وتهديد فرص الشباب، كما نوقش في موقع "24".

استخدم الباحثون في اختباراتهم مبلغاً حقيقياً بقيمة 10 وحدات من عملة "USDC" على شبكة "Base"، مع وضع سقف إنفاق يومي لا يتجاوز سنتاً واحداً. وتم منح النماذج إمكانية الوصول إلى البريد الإلكتروني، والإنترنت، والمحفظة الرقمية، وأُجريت 20 تجربة لكل نموذج ضمن كل سيناريو.

وأشارت الدراسة إلى أن نقطة الضعف تكمن في آلية التحقق التي تعتمد على وصول رمز التأكيد، بدلاً من التأكد من موافقة شخص مخول فعلياً على العملية. وهذا يسمح لوكيل الذكاء الاصطناعي، الذي يمتلك صلاحية الوصول إلى البريد الإلكتروني، باسترداد الرمز وإتمام التغيير بنفسه.

من جهتها، أكدت شركة "سيركل" أن إرشاداتها تنصح بعدم منح وكلاء الذكاء الاصطناعي وصولاً غير مقيد إلى البريد الإلكتروني المستخدم لأغراض التحقق، وتوصي بأن يقوم المستخدمون بإدخال رموز التأكيد بأنفسهم. وأضافت الشركة أنها تقوم بمراجعة إجراءات الحماية لديها.

واقترح الباحثون تبني آلية موافقة بشرية عبر جهاز موثوق لا يمكن للوكيل التحكم فيه، مع عرض تفاصيل العملية قبل المصادقة عليها. كما قاموا بتطوير نموذج أولي مفتوح المصدر أطلقوا عليه اسم "Countersign"، والذي يربط الموافقة بإجراء محدد.