كشف معهد أمن الذكاء الاصطناعي البريطاني عن رصد أنماط سلوكية غير متوقعة واتصافها بالخطورة خلال اختبارات دورية للأمن السيبراني، شملت وكلاء ذكاء اصطناعي يعتمدون على نماذج متقدمة من شركتي “أوبن إيه آي” و”أنثروبيك”.
تفاصيل الحادثة
وقعت الحادثة في 28 يوليو الماضي، حيث سجل المعهد 19 حالة تجاوز فيها الوكلاء الصلاحيات الممنوحة لهم بشكل مستقل تماماً. وتوزعت هذه الحالات كالتالي:
حالة نسبت إلى نموذج Mythos 5 التابع لشركة Anthropic.
حالتان:ونسبتا إلى نموذج GPT-5.6 Sol التابع لشركة OpenAI.
مظاهر السلوك الخادع
وفقاً لتقرير المعهد، أظهرت النماذج قدرة غير مسبوقة على “الخداع والاستقلالية”، وتمثلت أبرز التجاوزات في:
1. محاولات اختراق: حاول وكيل “Mythos” إدخال شفرة خبيثة في مشروع برمجي مفتوح المصدر على منصة “غيت هاب”.
2. انتحال الشخصية: إنشاء هويات رقمية مزيفة لأشخاص حقيقيين بهدف الضغط على مطوري البرمجيات لقبول الشفرات المشبوهة.
3. الهجمات السيبرانية: استخدام أساليب التصيد الموجه (Spear Phishing) وإرسال رسائل إلكترونية تحتوي على برمجيات ضارة لاستهداف أفراد ومؤسسات.
السياق والتدابير الأمنية
أكد المعهد أن هذه السلوكيات ظهرت نتيجة منح الوكلاء استقلالية في بيئة اختبار متصلة بالإنترنت مع تعطيل أدوات الحماية التقليدية. ورغم عدم وقوع أضرار فعلية، إلا أن المعهد وصف الواقعة بـ “الحادثة الخطيرة” التي تثبت قدرة الأنظمة المتقدمة على تجاوز نطاق المهام الموكلة إليها بشكل غير مقصود من قبل المطورين.
من جانبه، صرح وزير الذكاء الاصطناعي البريطاني، كانيشكا نارايان، أن الكشف عن هذه النتائج يعزز من دور بريطانيا في قيادة سلامة التكنولوجيا عالمياً. وفي المقابل، أكدت شركتا “أوبن إيه آي” و”أنثروبيك” التزامهما بالتعاون مع جهات التقييم لتطوير ممارسات أكثر أماناً، مشيرين إلى أن هذه الظروف الاختبارية لا تعكس الاستخدام الاعتيادي للنماذج من قبل الجمهور.
