تحديات أمن الذكاء الاصطناعي تكشف ثغرات غير متوقعة

تتزايد التحديات الأمنية مع تسارع تبني تقنيات الذكاء الاصطناعي، حيث أقر مسؤول في "غوغل كلاود" بأن القطاع لا يزال في مرحلة انتقالية فيما يتعلق بأمن هذه التقنيات. وخلال فعالية في لوس أنجلوس، قال فرانسيس دي سوزا، الرئيس التنفيذي للعمليات في "غوغل كلاود"، إن الأمن لم يعد خياراً يمكن إضافته لاحقاً، بل يجب أن يكون جزءاً أساسياً من أي استراتيجية للذكاء الاصطناعي منذ البداية، محذراً من ما وصفه بـ"الذكاء الاصطناعي الخفي" الناتج عن استخدام الموظفين أدوات خارج رقابة المؤسسات.
وأكد دي سوزا أن المؤسسات بحاجة إلى نهج موحد يجمع بين البيانات والأمن والذكاء الاصطناعي، مشيراً إلى أن البيئات التقنية اليوم متعددة ومعقدة حتى لدى الشركات التي تعتقد أنها تعتمد على مزود واحد فقط. كما أشار إلى أن مشهد التهديدات السيبرانية قد تغيّر جذرياً، حيث تقلص الزمن بين اختراق الأنظمة والانتقال إلى مرحلة الهجوم التالية من ساعات إلى ثوانٍ معدودة، مما يرفع مستوى المخاطر بشكل غير مسبوق.
ولفت إلى أن الهجمات لم تعد تقتصر على الشبكات التقليدية، بل باتت تستهدف نماذج الذكاء الاصطناعي وبيانات التدريب والوكلاء الذكيين، وحتى الأوامر النصية المستخدمة لتشغيل الأنظمة. وحذر من قدرة الأنظمة الذكية على اكتشاف بيانات قديمة ومنسية داخل البنى التحتية للشركات، مما قد يفتح الباب أمام تسريب معلومات حساسة لم تكن موضع انتباه سابقاً.
من ناحية أخرى، تواجه "غوغل" انتقادات متزايدة بعد تقارير عن ثغرات في أنظمتها، بما في ذلك استغلال مفاتيح برمجية في خدمات سحابية أدت إلى فواتير ضخمة للمطورين، قبل أن تعيد الشركة الأموال بعد انتشار الحوادث إعلامياً. كما أظهرت تقارير أمنية أن عملية إلغاء المفاتيح البرمجية قد لا تكون فورية بالكامل، مما يترك نافذة زمنية قصيرة يمكن استغلالها من قبل المهاجمين.