تحذير من غوغل بشأن تهديدات سيبرانية مدعومة بالذكاء الاصطناعي

حذر تقرير صادر عن غوغل من تزايد استخدام الذكاء الاصطناعي في الهجمات السيبرانية، حيث تم رصد محاولة لاستغلال ثغرة أمنية غير معروفة سابقًا. وبحسب التقرير، حاولت جهات تهديد استغلال ثغرة قادرة على تجاوز المصادقة الثنائية في أداة شائعة لإدارة الخدمات عبر الإنترنت، قبل أن تتمكن الشركة من اكتشافها وإغلاقها بالتعاون مع المورد المعني، مما حال دون استخدامها في هجمات واسعة النطاق.
يستند التحذير إلى تقرير مجموعة غوغل لاستخبارات التهديدات (GTIG)، الذي يرصد توسع استخدام مجرمي الإنترنت والجهات المدعومة من دول لأدوات الذكاء الاصطناعي التوليدي في مجالات متعددة مثل تطوير البرمجيات الخبيثة واكتشاف الثغرات الأمنية وتنفيذ حملات التصيد.
أوضحت غوغل أن الثغرة المستهدفة لم تكن ناتجة عن خطأ برمجي تقليدي، بل عن "خلل في المنطق الدلالي" على مستوى تصميم النظام، وهو نوع من الثغرات الذي يصعب اكتشافه. كما رأت الشركة أن نماذج الذكاء الاصطناعي الحديثة أصبحت أكثر قدرة على رصد مثل هذه الثغرات بسبب فهمها للسياق العام للبرمجيات.
وأشار التقرير إلى أن مؤشرات عديدة في كود الاستغلال تشير إلى احتمال توليده باستخدام الذكاء الاصطناعي، مثل وجود توثيق تعليمي غير معتاد وتضليل في تقييمات الثغرة الأمنية. وذكر التقرير أن المجموعة المهاجمة كانت تخطط لاستخدام الثغرة ضمن حملة أوسع بعد الحصول على بيانات اعتماد تسجيل الدخول، مما يسمح بتجاوز المصادقة الثنائية والوصول غير المصرح به إلى الحسابات.
كما نقلت GTIG أن التحليل الفني يشير بقوة إلى احتمال استخدام نموذج ذكاء اصطناعي في اكتشاف الثغرة وتطوير وسيلة استغلالها. ويحذر التقرير من تطور برمجيات خبيثة أكثر استقلالية، مثل برنامج على نظام أندرويد يُدعى PROMPTSPY، يُعتقد أنه يستخدم واجهات ذكاء اصطناعي لتحليل شاشة الهاتف وتنفيذ أوامر بشكل شبه تلقائي.
في المقابل، تؤكد غوغل أنها تعمل على تطوير أدوات ذكاء اصطناعي دفاعية مثل Big Sleep وCodeMender، بهدف اكتشاف الثغرات الأمنية وإصلاحها تلقائيًا قبل استغلالها لمواجهة التهديدات الرقمية المتزايدة.