دراسة: تأثير سلبي لذاكرة أنظمة الذكاء الاصطناعي على دقة الإجابات

تُعتبر قدرة أنظمة الذكاء الاصطناعي على تذكر تفضيلات المستخدمين والتكيف معها من أهم المزايا التي تروج لها الشركات المطورة لهذه التقنيات. حيث يُفترض أن يؤدي تراكم الاستخدام إلى تحسين جودة الإجابات وفهم احتياجات المستخدم بشكل أدق. ومع ذلك، تشير أبحاث حديثة إلى أن هذه الميزة قد تحمل آثاراً جانبية غير متوقعة.
أظهرت دراسات جديدة من شركة الذكاء الاصطناعي Writer أن أنظمة الذاكرة المستخدمة في النماذج الذكية قد تؤدي في بعض الحالات إلى تراجع جودة الأداء، من خلال دفع النماذج إلى اعتماد معلومات أو تصورات خاطئة قدمها المستخدم مسبقاً، بدلاً من الالتزام بالحقائق الدقيقة.
وقال دان بيكل، رئيس قسم الذكاء الاصطناعي في الشركة، إن الهدف من البحث كان فهم قدرة النماذج على التمييز بين التفضيلات الشخصية المفيدة والمعلومات التي قد تؤدي إلى إجابات غير دقيقة. وأضاف: "مع كل عملية إضافية لتخزين تفضيلات المستخدم واستعادتها، تزداد احتمالات وقوع النموذج في الخطأ".
في إحدى التجارب، قدّم الباحثون للنموذج معلومة تفيد بأن الكتاب المفضل للمستخدم هو رواية "Station Eleven"، ثم طُلب منه لاحقاً تسمية رواية ديستوبية حققت مبيعات كبيرة. أظهرت النتائج ميل النموذج إلى اختيار الرواية نفسها رغم عدم ارتباطها بالسؤال المطروح.
تزايدت هذه الظاهرة عند استخدام أدوات ضغط الذاكرة مثل "Memo" و"Zep"، المصممة لإدارة كميات كبيرة من البيانات المخزنة عن المستخدمين. وخلص الباحثون إلى أن أنظمة الذاكرة تواجه تحدياً في التمييز بين المعلومات المرتبطة بالسؤال وتلك غير ذات الصلة، مما قد يؤدي إلى تقليص تنوع الإجابات وتقليل الإبداع وظهور أنواع من التحيز غير المقصود.
تناولت الدراسة الثانية تأثير الذاكرة على المهام التحليلية الأكثر تعقيداً، حيث تم تزويد النموذج بمفاهيم مالية خاطئة، ثم طُلب منه تحليل أداء إحدى الشركات. أظهرت النتائج تراجع أداء النموذج كلما زادت كمية المعلومات الشخصية والسياقية المخزنة عنه. في الحالة التي لم تُستخدم فيها أي آلية للذاكرة أو التخصيص، قدّم النموذج تقييماً أكثر دقة، لكن عند تفعيل خصائص الذاكرة، بدأ النموذج في تعديل استنتاجاته بما يتوافق مع المعلومات الخاطئة المقدمة سابقاً.
تشير النتائج إلى أن زيادة الذاكرة والسياق داخل أنظمة الذكاء الاصطناعي ليست دائماً عاملاً إيجابياً، إذ قد تؤدي في بعض الحالات إلى نتائج عكسية إذا لم تُدار بشكل دقيق، مما يفتح نقاشاً حول مستقبل تقنيات التخصيص والذاكرة في تطبيقات الذكاء الاصطناعي.