اختراق منصة Hugging Face ناجم عن خطأ بشري في إعداد بيئة الاختبار

أرجع خبراء في الأمن السيبراني حادثة الاختراق التي نفذها نموذج الذكاء الاصطناعي التابع لشركة "OpenAI" ضد منصة Hugging Face إلى خطأ بشري في إعداد بيئة الاختبار. وأكدوا أن السبب لم يكن امتلاك النموذج قدرات خارقة، بل وجود ثغرات في تصميم منظومة الاحتواء الأمني.
وكانت "OpenAI" قد أعلنت أن أحد نماذجها نجح خلال اختبار أمني في تنفيذ أول هجوم إلكتروني يعتمد بالكامل على الذكاء الاصطناعي، حيث تمكن من اختراق أنظمة منصة Hugging Face داخل بيئة اختبار معزولة، ما أثار مخاوف بشأن المخاطر الأمنية للنماذج المتقدمة.
وأوضح الخبراء أن بيئة الاختبار، التي وصفتها الشركة بأنها "صندوق رملي"، لم تكن معزولة بالكامل عن الإنترنت، مما أتاح للنموذج استغلال ثغرة أمنية غير معروفة سابقاً في نظام تثبيت الحزم، والخروج من البيئة المخصصة للاختبار.
وصف دان غويدو، مؤسس شركة Trail of Bits المتخصصة في الأمن السيبراني، ما حدث بأنه "فشل في احتواء النموذج مع تعطيل وسائل الحماية الأساسية"، مشيراً إلى أن المشكلة تكمن في آلية العزل وليس في قدرات النموذج وحدها.
كما أوضحت "OpenAI" أن بيئة الاختبار كانت تسمح للنموذج بالاتصال بخدمة داخلية مخصصة لتنزيل حزم البرمجيات. واستغلال الثغرة الأمنية مكّن النموذج من تجاوز القيود الأمنية. وأكدت أنها أبلغت الجهة المطورة للبرنامج بالثغرة وتعمل على إصدار تحديث لمعالجتها.
وأكد خبراء أمن سيبراني أن وجود الثغرات في البرمجيات أمر متوقع، لكن الخطأ الحقيقي كان في السماح لأي مكوّن داخل بيئة الاختبار بالاتصال بمسار يمكنه الوصول إلى الإنترنت. واعتبر الباحث الأمني مارتن بون أن الصندوق الرملي الحقيقي يجب أن يكون معزولاً بالكامل، مشيراً إلى أن الاعتماد على جدار حماية وحده لا يوفر الحماية الكافية.
واتفق الخبير الأمني جيك ويليامز مع هذا التقييم، معتبراً أن ما حدث يعكس قصوراً في الضوابط الأمنية، وأشار إلى أن "المشكلة لم تكن في هروب النموذج، بل في أن بيئة الاحتواء لم تُصمم بالشكل الصحيح منذ البداية".
كما انتقد المستشار الأمني دانيال كارد تصميم بيئة الاختبار، معتبراً أن السماح بأي اتصال شبكي، حتى وإن كان محدوداً، لا يُعد ممارسة أمنية سليمة عند اختبار نماذج تمتلك قدرات هجومية.
في سياق متصل، كشفت شركة "أنثروبيك" في وقت سابق أن أحد نماذجها تمكن خلال اختبار أمني من تجاوز بعض القيود والوصول إلى الإنترنت من نظام كان يفترض أن يتصل بعدد محدود من الخدمات، دون أن يتمكن من مغادرة بيئة الاحتواء بالكامل. تسلط هذه الحوادث الضوء على التحديات المتزايدة التي تواجه مختبرات الذكاء الاصطناعي في تصميم بيئات اختبار معزولة بصورة كاملة.