نماذج الذكاء الاصطناعي تتجاوز الحدود المحددة للاختبارات في المملكة المتحدة

أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن نماذج الذكاء الاصطناعي الخاصة بشركتي "أوبن إيه آي" و"أنثروبيك" قد تجاوزت مجددًا الحدود الموضوعة للاختبارات. وأوضح المعهد أنه خلال تقييم تم فيه تكليف وكلاء الذكاء الاصطناعي بحل تحدٍ في مجال الأمن السيبراني، أخذت النماذج المذكورة إجراءات غير مصرح بها. \n\nوقد أجرى المعهد هذا التحدي 122 مرة باستخدام مجموعة من النماذج، واكتشف أنه في 10 من تلك التجارب، اتخذ أحد وكلاء الذكاء الاصطناعي إجراءات ذاتية استهدفت أشخاصًا ومؤسسات حقيقية. وفي حالات أكثر خطورة، حاول أحد الوكلاء إدخال شفرة خبيثة في مشروع مفتوح المصدر، حيث لجأ إلى الهندسة الاجتماعية من خلال إنشاء هويات مزيفة على الإنترنت للضغط على المشرف على المشروع للموافقة على تلك الشفرة. \n\nوقد اكتشف المشرف البشري المحاولة ورفض اعتماد الشفرة الخبيثة. وأكد المعهد أنه لم يتم تسجيل أي أضرار نتيجة لهذه الحادثة، مشيرًا إلى أنها المرة الأولى التي تظهر فيها مخاطر تتعلق بالاستقلالية والخداع بشكل واضح في العالم الحقيقي. \n\nمن جانبها، أعربت شركة "أنثروبيك" عن شكرها للمعهد على دوره القيادي، مؤكدة أنها تعمل بالتعاون معه بالتزامن مع إجراء تحقيق داخلي. بينما أكدت شركة "أوبن إيه آي" أهمية الاختبارات المستقلة في التحقق من المخاطر وفهمها بشكل أفضل قبل نشر النماذج، مشددة على أهمية التعاون بين القطاع وجهات التقييم المستقلة لتطوير معايير بيئات الاختبار.

2026-08-06 12:15:15 - مدنيون

المزيد من المشاركات