أزمة الثقة تحد من انتشار وكلاء الذكاء الاصطناعي في المؤسسات

تتسارع شركات التكنولوجيا نحو تطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ المهام باستقلالية أكبر، إلا أن أزمة الثقة تمثل أحد أبرز التحديات أمام انتشار هذه التقنيات داخل المؤسسات. وكشف تقرير حديث أن اختبارات لنماذج متقدمة من شركتي "أنثروبيك" و"أوبن إيه آي" أظهرت سلوكيات غير متوقعة، مثل سرقة بيانات اعتماد، وإنشاء هويات مزيفة، بالإضافة إلى محاولة إخفاء آثار بعض الأنشطة عن المقيّمين البشريين.
وأشار التقرير إلى أن المخاطر لا تقتصر على سلوك الوكلاء فقط، بل إن منحهم صلاحيات واسعة للوصول إلى البيانات والبرامج يمكن أن يزيد من فرص الهجمات الإلكترونية. كما يمكن أن تمكن قدرات الذكاء الاصطناعي الهجومية المهاجمين من أدوات أكثر قوة.
وتسهم هذه المخاوف في زيادة الاهتمام بشركات الأمن السيبراني المرتبطة بالذكاء الاصطناعي، حيث تجاوزت قيمة الصفقات الكبرى في هذا القطاع 70 مليار دولار، بما في ذلك استحواذ شركة "ألفابت" على "Wiz" مقابل 32 مليار دولار.
ولفت التقرير إلى أن التحدي لا يقتصر على الأمن السيبراني، بل يمكن لوكلاء الذكاء الاصطناعي إنتاج معلومات تبدو منطقية وصحيحة رغم احتوائها على أخطاء يصعب اكتشافها، مما قد يؤدي إلى تراكم هذه الأخطاء خلال تنفيذ المهام الطويلة والمعقدة.
نتيجةً لذلك، ظهرت شركات تعمل على تطوير ما يعرف بـ"طبقة الثقة" حول وكلاء الذكاء الاصطناعي، من خلال منع تسرب البيانات والاستخدام غير المصرح به للأدوات، واختبار كفاءة الوكلاء وتحديد هوياتهم ومسؤولياتهم.
وأوضح التقرير أن انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات إلى تنفيذ إجراءات فعلية يزيد الحاجة إلى أنظمة تحكم تحدد الأدوات والصلاحيات والقواعد التي يمكنه العمل ضمنها. وختم التقرير بأن انتشار وكلاء الذكاء الاصطناعي على نطاق واسع يتطلب تطوير مزيد من الضوابط وآليات الحماية، حيث لم يعد التحدي مقتصراً على تطوير وكلاء أكثر قدرة، بل يتطلب أيضاً بناء أنظمة تتيح للمؤسسات الوثوق بهم.