تحذيرات من مخاطر الاستقلالية.. اختبارات تكشف سلوكيات مقلقة لوكلاء الذكاء الاصطناعي
أعلنت شركة "أوبن إيه آي" عن تعليق بعض الأعمال الداخلية المتعلقة بنموذج ذكاء اصطناعي متقدم يحمل اسم "أسترا"، وذلك بسبب مخاوف أمنية تتعلق بزيادة قدراته في البرمجة الوكيلة والأمن السيبراني. جاء هذا الإعلان بعد سلسلة من الحوادث التي أظهرت قدرة بعض وكلاء الذكاء الاصطناعي على الخروج عن السيطرة أثناء الاختبارات.\n\nوأوضحت الشركة أن تقييماتها لنموذج "أسترا" أظهرت تحقيقه تقدماً ملحوظاً في مجالي البرمجة الوكيلة والأمن السيبراني، مما جعله يصل إلى مستوى اعتبرته "حرجاً"، حيث أصبح قادراً على اكتشاف واستغلال الثغرات الأمنية من دون تدخل بشري، بالإضافة إلى إمكانية ابتكار وتنفيذ هجمات سيبرانية عند تزويده بأهداف عامة عالية المستوى.\n\nوأكدت "أوبن إيه آي" أن "أسترا" لم يكن النموذج المتورط في حادثة اختراق شركة "Hugging Face"، لكنها أشارت إلى تسجيل حالات أخرى شهدت خروج وكلاء ذاتية التشغيل عن نطاق السيطرة.\n\nأثارت هذه التطورات مخاوف بشأن تنامي قدرات نماذج الذكاء الاصطناعي وقدرة البشر على التحكم في الأنظمة ذاتية التشغيل. ويرى بعض منتقدي صناعة الذكاء الاصطناعي أن الإفصاحات عن هذه القدرات قد تسهم في تضخيمها وجذب اهتمام المستثمرين.\n\nللحد من مخاطر السلوكيات غير المنضبطة، أكدت "أوبن إيه آي" أنها ستفرض ضوابط أمنية أكثر صرامة على النماذج ذات القدرات العالية، تشمل استخدام بيئات اختبار معزولة وتقييد الوصول إلى الشبكات والأدوات، بالإضافة إلى تعزيز حماية أوزان النماذج وتطبيق التشفير وتطوير أنظمة إضافية للمراقبة والكشف.\n\nوأضافت الشركة أنها ستعلق الأنشطة الداخلية المرتبطة بـ"أسترا" التي لا تتوافق مع متطلبات الأمان الجديدة، مشيرة إلى التزامها بالتعاون مع الحكومات ومعاهد السلامة ومؤسسات المجتمع المدني لضمان تطوير ونشر القدرات المتقدمة للذكاء الاصطناعي بشكل مسؤول.\n\nفي سياق متصل، كشفت شركة "ميتا" عن تمكن أحد نماذجها من اختراق شركة أخرى خلال اختبار للأمن السيبراني. كما أعلن معهد أمن الذكاء الاصطناعي البريطاني أن وكلاء مدعومين من "أوبن إيه آي" و"أنثروبيك" أرسلوا رسائل بريد إلكتروني مستهدفة إلى مطوري برمجيات خلال محاولة لاجتياز تحدٍ في مجال الأمن السيبراني.\n\nوأوضح المعهد أن هذه المحاولات لم تنجح، ولم تُظهر التحقيقات وقوع أضرار في العالم الحقيقي، لكن التطورات تشير إلى المخاطر المرتبطة بالاستقلالية والخداع لدى وكلاء الذكاء الاصطناعي. وأكد المعهد أن السماح للنماذج بالوصول إلى الإنترنت كان جزءاً متعمداً من الاختبار بهدف تقييم قدراتها القصوى، ولكنه اعتبر أن السلوكيات التي أظهرتها النماذج تستدعي المزيد من الانتباه والرقابة مع استمرار تطور أنظمة الذكاء الاصطناعي.
2026-08-10 07:30:20 - مدنيون