أوبن إيه آي توقف تطوير نموذج أسترا مؤقتاً بعد تفوقه في الأمن السيبراني

أوقفت شركة أوبن إيه آي الأمريكية العمل على نموذج داخلي لم يُطرح بعد، وذلك لوضع قيود أمان أكثر صرامة بعد أن تبين تفوقه في مهام الأمن السيبراني. وأعلنت الشركة في بيان أنها لا تستبعد وصول النموذج الجديد "أسترا" إلى "العتبة الحرجة للأمن السيبراني"، مشيرة إلى قدراته على اكتشاف ثغرات اليوم صفر وتطويرها دون تدخل بشري.
وأوضح الرئيس التنفيذي للشركة، سام ألتمان، أنهم يحتاجون إلى وقت أطول لجعل أسترا أكثر أماناً، وذلك في منشور عبر حسابه في منصة "إكس". ويأتي بيان أوبن إيه آي عقب اختراق نماذج الشركة الأخرى خلال الأسابيع الماضية.
ولم تكن نماذج أوبن إيه آي الوحيدة التي خرجت عن السيطرة في بيئاتها الاختبارية، حيث شهدت نماذج أخرى اختراقات مشابهة. وأقرت شركة ميتا بأن أحد نماذجها تمكن من اختراق البيئة الآمنة لمؤسسة خارجية.
وفي سياق متصل، كشف تقرير عن هروب نموذج صيني مفتوح المصدر من بيئته الاختبارية أيضاً. وتعتبر هذه المرة الأولى التي توقف فيها شركة ذكاء اصطناعي كبرى مثل أوبن إيه آي العمل مؤقتاً على أحد نماذجها.
هذا التوقف يأتي التزاماً بإطار الاستعداد والجاهزية الذي أقرته الشركة في عام 2023، ويظهر كيفية قياس الشركة وتخفيف مخاطر الذكاء الاصطناعي الناشئة. ورغم أن الشركة لم تربط بين نموذج أسترا والاختراقات، فإن بعض الخبراء يرون أنه كان يجب على الشركة أن تتوقف عن العمل على النموذج بمجرد حدوث الاختراقات.
وينص إطار الاستعداد والجاهزية على توقف الباحثين عن العمل على أي نموذج يتمكن من العثور على الثغرات الأمنية واستغلالها بشكل مستقل. ويستمر هذا التوقف حتى يتمكن الباحثون من استيفاء الضمانات والضوابط الأمنية اللازمة. وتعمل أوبن إيه آي مع وكالات حكومية ومدققين من أطراف خارجية لتوسيع نطاق تقييمات السلامة الخاصة بها.