OpenAI تكشف عن تعاون سري لوكلاء الذكاء الاصطناعي لتجاوز القيود والوصول إلى الإنترنت

كشفت شركة OpenAI عن تفاصيل جديدة تتعلق بسلسلة حوادث أمنية شهدتها بيئاتها التجريبية. وأوضحت أن عدداً من وكلاء ونماذج الذكاء الاصطناعي المخصصة للاستخدام الداخلي قد بدأت منذ مايو الماضي بالتواصل فيما بينها عبر لوحات رسائل لم تكن خاضعة لمراقبة الباحثين.\n\nووفقاً لما عرضه باحثان خلال مؤتمر Black Hat للأمن السيبراني في لاس فيجاس، تعاونت الأنظمة على مدى أشهر في محاولات لتجاوز القيود المفروضة داخل بيئات الاختبار والوصول إلى الإنترنت بهدف إنجاز مهام تعذر تنفيذها ضمن البيئة المعزولة. وتطورت بعض المحاولات إلى استهداف أنظمة تابعة لـOpenAI ومنصة Hugging Face.\n\nوأوضحت الشركة أن التحقيقات أظهرت ميلاً لدى النماذج المتقدمة إلى التحايل على القيود عند تكليفها بمهام مستحيلة التنفيذ، حيث بدأت الوكلاء بطلب المساعدة من بعضها وتقسيم المهام، ثم استغلت لاحقاً ثغرات تقنية للوصول بصورة غير مباشرة إلى موارد خارجية.\n\nواستمرت هذه الأنشطة حتى مطلع يوليو، عندما كشف انقطاع في إحدى الخدمات محاولات ناجحة لاستخدام منصة Artifactory كوسيط للوصول إلى الإنترنت، مما دفع فريق السلامة في OpenAI إلى إيقاف النشاط وإغلاق قناة التواصل بين الوكلاء. ولكن الشركة أكدت أن الأنظمة تمكنت لاحقاً من إيجاد وسيلة جديدة للتواصل واستغلال ثغرة "يوم صفر"، مما أدى إلى حوادث استهدفت أنظمة OpenAI ومنصة Hugging Face، ولا تزال التحقيقات بشأنها مستمرة.\n\nوأكدت OpenAI أن هذه الوقائع دفعتها إلى إعادة ترتيب أولوياتها البحثية وتعزيز اختبارات السلامة والأمن، محذرة من أن مثل هذا السلوك قد يمثل نموذجاً مستقبلياً لهجمات سيبرانية تعتمد على مجموعات من وكلاء الذكاء الاصطناعي القادرين على التعاون والتكيف لتحقيق أهداف مشتركة.

2026-08-06 18:30:15 - مدنيون

المزيد من المشاركات