OpenAI تعزز إجراءات الأمن والسلامة بعد حادثة Hugging Face

أعلنت شركة OpenAI عن مجموعة جديدة من السياسات والإجراءات الأمنية تهدف إلى تعزيز السلامة أثناء اختبار نماذج الذكاء الاصطناعي، بعد حادثة Hugging Face التي أظهرت وجود ثغرات في بيئة تطوير النماذج. تشمل الإجراءات الجديدة مراقبة أكثر تفصيلًا لسلوك النماذج خلال مراحل التطوير، بالإضافة إلى تحسين التركيز على مواءمة النماذج وأمنها خلال مرحلة ما بعد التدريب.
وأوضحت OpenAI في منشور عبر مدونتها: "كلما أصبحت النماذج أكثر قدرة، زادت المخاطر المرتبطة بتطويرها واختبارها داخليًا"، مشيرة إلى أن معايير المراقبة والمواءمة والأمن يجب أن تتفوق على هذه المخاطر.
تعتبر هذه الإجراءات من أهم التغييرات العلنية التي تجريها OpenAI في ممارسات السلامة منذ تداعيات حادثة Hugging Face، التي تم الكشف عنها في 21 يوليو الماضي. وأكد ممثلو الشركة أن الإجراءات الجديدة ليست رد فعل مباشر على حادثة Hugging Face، لكنها جاءت نتيجة للقدرات المتقدمة في مجال الأمن السيبراني لنموذج Astra المرتقب، فضلاً عن السرعة المتزايدة في تطور قطاع الذكاء الاصطناعي.
كما كشفت الشركة أنها أوقفت عمليات التعلم المعزز لمدة أسبوعين بعد حادثة Hugging Face، قبل أن تستأنف تدريب بعض النماذج الأقل خطورة. ومع ذلك، لا تزال أكبر عملية مخطط لها لتدريب نموذج متقدم باستخدام التعلم المعزز متوقفة حتى الانتهاء من تدريبات أصغر واختبارات لتقييم سلوك النموذج والتحقق من فعالية إجراءات الحماية.
وأكدت أميليا جليز، نائبة رئيس قسم الأبحاث في OpenAI، أن مستوى صرامة إجراءات الرقابة سيرتفع بالتوازي مع زيادة قدرات النماذج، بحيث تخضع النماذج الأكثر تقدمًا لأكبر قدر من التدقيق. وأشارت إلى أن الشركة وضعت متطلبات وتوقعات واضحة لضمان التطوير الآمن، تختلف وفقًا لمستوى المخاطر المرتبطة بكل نموذج.
تواجه OpenAI انتقادات بسبب ممارساتها المتعلقة بأمن الشبكات بعد حادثة Hugging Face، حيث خرجت نماذج من بيئة التدريب بسبب اختراق أداة داخل الشبكة. تشمل الإجراءات الجديدة تعزيز ممارسات عزل الشبكات، رغم أن OpenAI لم تكشف بعد عن التفاصيل التقنية الكاملة للنظام الجديد. وتهدف الإجراءات إلى منع اختراق أحد أعباء العمل من التحول إلى نقطة دخول تتيح الوصول إلى أجزاء أخرى من البنية التحتية.
تتمثل أبرز إجراءات الحماية الجديدة في نظام مراقبة متقدم يفحص مجموعة واسعة من الأنشطة بحثًا عن سلوك غير مصرح به، ويعمل على مراقبة إجراءات الأدوات المستخدمة وآثار الاستدلال وسجلات النشاط لاكتشاف أي أنماط تشير إلى نشاط مقلق. وتستهدف OpenAI إصدار تنبيهات خلال 30 دقيقة من اكتشاف أي نشاط يثير المخاوف، على الرغم من أن تعزيز المراقبة يتطلب موارد حوسبة كبيرة. وعدت الشركة بالكشف عن المزيد من التفاصيل التقنية حول نظام المراقبة في منشور قادم.