OpenAI تكشف عن تعاون سري لوكلاء الذكاء الاصطناعي لتجاوز القيود والوصول إلى الإنترنت

كشفت شركة OpenAI عن تفاصيل جديدة تتعلق بسلسلة حوادث أمنية شهدتها بيئاتها التجريبية. وأوضحت أن عدداً من وكلاء ونماذج الذكاء الاصطناعي المخصصة للاستخدام الداخلي قد بدأت منذ مايو الماضي بالتواصل فيما بينها عبر لوحات رسائل لم تكن خاضعة لمراقبة الباحثين.
ووفقاً لما عرضه باحثان خلال مؤتمر Black Hat للأمن السيبراني في لاس فيجاس، تعاونت الأنظمة على مدى أشهر في محاولات لتجاوز القيود المفروضة داخل بيئات الاختبار والوصول إلى الإنترنت بهدف إنجاز مهام تعذر تنفيذها ضمن البيئة المعزولة. وتطورت بعض المحاولات إلى استهداف أنظمة تابعة لـOpenAI ومنصة Hugging Face.
وأوضحت الشركة أن التحقيقات أظهرت ميلاً لدى النماذج المتقدمة إلى التحايل على القيود عند تكليفها بمهام مستحيلة التنفيذ، حيث بدأت الوكلاء بطلب المساعدة من بعضها وتقسيم المهام، ثم استغلت لاحقاً ثغرات تقنية للوصول بصورة غير مباشرة إلى موارد خارجية.
واستمرت هذه الأنشطة حتى مطلع يوليو، عندما كشف انقطاع في إحدى الخدمات محاولات ناجحة لاستخدام منصة Artifactory كوسيط للوصول إلى الإنترنت، مما دفع فريق السلامة في OpenAI إلى إيقاف النشاط وإغلاق قناة التواصل بين الوكلاء. ولكن الشركة أكدت أن الأنظمة تمكنت لاحقاً من إيجاد وسيلة جديدة للتواصل واستغلال ثغرة "يوم صفر"، مما أدى إلى حوادث استهدفت أنظمة OpenAI ومنصة Hugging Face، ولا تزال التحقيقات بشأنها مستمرة.
وأكدت OpenAI أن هذه الوقائع دفعتها إلى إعادة ترتيب أولوياتها البحثية وتعزيز اختبارات السلامة والأمن، محذرة من أن مثل هذا السلوك قد يمثل نموذجاً مستقبلياً لهجمات سيبرانية تعتمد على مجموعات من وكلاء الذكاء الاصطناعي القادرين على التعاون والتكيف لتحقيق أهداف مشتركة.