مايكروسوفت تطلق أداة جديدة لاختبار سلوك الذكاء الاصطناعي

أعلنت شركة مايكروسوفت عن إطلاق أداة جديدة لاختبار سلوك أنظمة الذكاء الاصطناعي، تعتمد على أوامر مكتوبة باللغة الطبيعية، ضمن نهج مفتوح المصدر يحمل اسم أسيرت. تهدف الأداة إلى مساعدة المطورين والشركات على التأكد من التزام أنظمة الذكاء الاصطناعي بالقواعد والسياسات الخاصة بكل تطبيق أو خدمة. تعتمد الأداة على تحويل الأوصاف المكتوبة إلى اختبارات قابلة للقياس والتقييم، مع إنشاء سيناريوهات متعددة للتحقق من مدى التزام النظام بالقواعد، وتقديم نتائج تفصيلية تساعد على اكتشاف نقاط الضعف والانحرافات السلوكية. كما تتيح الأداة تسجيل مسارات تنفيذ المهام والخطوات الوسيطة، وإضافة معلومات مثل بيئة العمل والقيود التنظيمية، مما يعزز فهم المطورين لأسباب الأخطاء ويتيح تخصيص عملية التقييم وفق طبيعة كل تطبيق. من جانبها، أكدت سارة بيرد، رئيسة المنتجات في قسم الذكاء الاصطناعي في مايكروسوفت، أن التقييم الدقيق أصبح ضرورياً لاتخاذ قرارات صحيحة بشأن أنظمة الذكاء الاصطناعي، مشيرة إلى أن الأنظمة الجديرة بالثقة تتطلب قياس العديد من الجوانب المرتبطة بالتطبيق. وأضافت أن الأداة يمكن استخدامها أثناء مراحل تطوير النظام، وبعد إطلاقه للمستخدمين، وحتى في عمليات المراقبة المستمرة على المدى الطويل، في وقت يشهد فيه قطاع الذكاء الاصطناعي اتجاهاً متزايداً نحو أدوات تقييم دقيقة ومستدامة.