شركة OpenAI تعزز إجراءات الحماية بسبب قدرات نموذج ذكاء اصطناعي جديد

أعلنت شركة OpenAI عن تشديد إجراءات الحماية المرتبطة بتطوير نموذج ذكاء اصطناعي جديد، وذلك بعد أن أظهرت التقييمات الداخلية تقدماً ملحوظاً في مجالي البرمجة الوكيلة والأمن السيبراني. يأتي ذلك وسط مخاوف من ارتفاع مستوى قدراته إلى حد يتطلب ضوابط أمنية إضافية.
وأكدت الشركة أن النموذج، الذي لا يزال قيد التطوير، أظهر أداءً قوياً في مهام الأمن السيبراني، مشيرةً إلى أن التقييمات الأولية لم تستبعد إمكانية وصوله إلى مستوى متقدم من القدرات التي قد تسمح بتنفيذ مهام إلكترونية معقدة بصورة شبه مستقلة.
وبموجب إطار الاستعداد الذي تعتمده OpenAI، فإن وصول أحد النماذج إلى مستويات مرتفعة من القدرات السيبرانية يستدعي تطبيق إجراءات حماية إضافية، تشمل تقييد الوصول إلى الشبكات والأدوات، واستخدام بيئات اختبار معزولة، وتعزيز حماية أوزان النماذج، وتوسيع أنظمة المراقبة والكشف عن الأنشطة عالية الخطورة.
وأوضحت الشركة أنه تم إيقاف بعض الأنشطة المرتبطة بتطوير النموذج مؤقتاً عندما لم تستوفِ متطلبات الضوابط الأمنية الجديدة، مؤكدةً أنها تعمل على تعزيز آليات مراقبة النماذج ورصد الإجراءات الخطرة خلال عمليات التدريب والتقييم.
تأتي هذه التطورات في وقت تشهد فيه نماذج الذكاء الاصطناعي تقدماً سريعاً في تنفيذ المهام البرمجية والأمنية، حيث أصبحت قادرة على التعامل مع عمليات أكثر تعقيداً وبدرجة متزايدة من الاستقلالية.
وترى OpenAI أن هذه القدرات يمكن أن توفر فوائد كبيرة في مجال الدفاع السيبراني واكتشاف الثغرات ومعالجتها، لكنها قد تفرض مخاطر جديدة إذا استخدمت في تنفيذ هجمات إلكترونية.
وأكدت الشركة أن بلوغ مستويات متقدمة في تقييمات الأمن السيبراني لا يعني بالضرورة أن النموذج قادر على تنفيذ جميع أنواع الهجمات في العالم الحقيقي، لكنه يشير إلى ارتفاع مستوى قدراته بما يكفي لفرض ضوابط أمنية مشددة خلال مرحلة التطوير نفسها.
تواصل OpenAI إجراء اختبارات وتقييمات للنموذج بالتعاون مع جهات متخصصة في سلامة الذكاء الاصطناعي والأمن السيبراني، بهدف تحديد قدراته ومخاطره ووضع إجراءات مناسبة قبل إتاحته للاستخدام على نطاق أوسع.