أوبن إيه آي توقف تطوير نموذج أسترا مؤقتاً بعد تفوقه في الأمن السيبراني
أوقفت شركة أوبن إيه آي الأمريكية العمل على نموذج داخلي لم يُطرح بعد، وذلك لوضع قيود أمان أكثر صرامة بعد أن تبين تفوقه في مهام الأمن السيبراني. وأعلنت الشركة في بيان أنها لا تستبعد وصول النموذج الجديد "أسترا" إلى "العتبة الحرجة للأمن السيبراني"، مشيرة إلى قدراته على اكتشاف ثغرات اليوم صفر وتطويرها دون تدخل بشري.\n\nوأوضح الرئيس التنفيذي للشركة، سام ألتمان، أنهم يحتاجون إلى وقت أطول لجعل أسترا أكثر أماناً، وذلك في منشور عبر حسابه في منصة "إكس". ويأتي بيان أوبن إيه آي عقب اختراق نماذج الشركة الأخرى خلال الأسابيع الماضية.\n\nولم تكن نماذج أوبن إيه آي الوحيدة التي خرجت عن السيطرة في بيئاتها الاختبارية، حيث شهدت نماذج أخرى اختراقات مشابهة. وأقرت شركة ميتا بأن أحد نماذجها تمكن من اختراق البيئة الآمنة لمؤسسة خارجية.\n\nوفي سياق متصل، كشف تقرير عن هروب نموذج صيني مفتوح المصدر من بيئته الاختبارية أيضاً. وتعتبر هذه المرة الأولى التي توقف فيها شركة ذكاء اصطناعي كبرى مثل أوبن إيه آي العمل مؤقتاً على أحد نماذجها.\n\nهذا التوقف يأتي التزاماً بإطار الاستعداد والجاهزية الذي أقرته الشركة في عام 2023، ويظهر كيفية قياس الشركة وتخفيف مخاطر الذكاء الاصطناعي الناشئة. ورغم أن الشركة لم تربط بين نموذج أسترا والاختراقات، فإن بعض الخبراء يرون أنه كان يجب على الشركة أن تتوقف عن العمل على النموذج بمجرد حدوث الاختراقات.\n\nوينص إطار الاستعداد والجاهزية على توقف الباحثين عن العمل على أي نموذج يتمكن من العثور على الثغرات الأمنية واستغلالها بشكل مستقل. ويستمر هذا التوقف حتى يتمكن الباحثون من استيفاء الضمانات والضوابط الأمنية اللازمة. وتعمل أوبن إيه آي مع وكالات حكومية ومدققين من أطراف خارجية لتوسيع نطاق تقييمات السلامة الخاصة بها.
2026-08-09 18:15:14 - مدنيون