شركة OpenAI تعزز إجراءات الحماية بسبب قدرات نموذج ذكاء اصطناعي جديد

أعلنت شركة OpenAI عن تشديد إجراءات الحماية المرتبطة بتطوير نموذج ذكاء اصطناعي جديد، وذلك بعد أن أظهرت التقييمات الداخلية تقدماً ملحوظاً في مجالي البرمجة الوكيلة والأمن السيبراني. يأتي ذلك وسط مخاوف من ارتفاع مستوى قدراته إلى حد يتطلب ضوابط أمنية إضافية. \n\nوأكدت الشركة أن النموذج، الذي لا يزال قيد التطوير، أظهر أداءً قوياً في مهام الأمن السيبراني، مشيرةً إلى أن التقييمات الأولية لم تستبعد إمكانية وصوله إلى مستوى متقدم من القدرات التي قد تسمح بتنفيذ مهام إلكترونية معقدة بصورة شبه مستقلة. \n\nوبموجب إطار الاستعداد الذي تعتمده OpenAI، فإن وصول أحد النماذج إلى مستويات مرتفعة من القدرات السيبرانية يستدعي تطبيق إجراءات حماية إضافية، تشمل تقييد الوصول إلى الشبكات والأدوات، واستخدام بيئات اختبار معزولة، وتعزيز حماية أوزان النماذج، وتوسيع أنظمة المراقبة والكشف عن الأنشطة عالية الخطورة. \n\nوأوضحت الشركة أنه تم إيقاف بعض الأنشطة المرتبطة بتطوير النموذج مؤقتاً عندما لم تستوفِ متطلبات الضوابط الأمنية الجديدة، مؤكدةً أنها تعمل على تعزيز آليات مراقبة النماذج ورصد الإجراءات الخطرة خلال عمليات التدريب والتقييم. \n\nتأتي هذه التطورات في وقت تشهد فيه نماذج الذكاء الاصطناعي تقدماً سريعاً في تنفيذ المهام البرمجية والأمنية، حيث أصبحت قادرة على التعامل مع عمليات أكثر تعقيداً وبدرجة متزايدة من الاستقلالية. \n\nوترى OpenAI أن هذه القدرات يمكن أن توفر فوائد كبيرة في مجال الدفاع السيبراني واكتشاف الثغرات ومعالجتها، لكنها قد تفرض مخاطر جديدة إذا استخدمت في تنفيذ هجمات إلكترونية. \n\nوأكدت الشركة أن بلوغ مستويات متقدمة في تقييمات الأمن السيبراني لا يعني بالضرورة أن النموذج قادر على تنفيذ جميع أنواع الهجمات في العالم الحقيقي، لكنه يشير إلى ارتفاع مستوى قدراته بما يكفي لفرض ضوابط أمنية مشددة خلال مرحلة التطوير نفسها. \n\nتواصل OpenAI إجراء اختبارات وتقييمات للنموذج بالتعاون مع جهات متخصصة في سلامة الذكاء الاصطناعي والأمن السيبراني، بهدف تحديد قدراته ومخاطره ووضع إجراءات مناسبة قبل إتاحته للاستخدام على نطاق أوسع.

2026-08-08 15:45:12 - مدنيون

المزيد من المشاركات