دراسة: تأثير سلبي لذاكرة أنظمة الذكاء الاصطناعي على دقة الإجابات
تُعتبر قدرة أنظمة الذكاء الاصطناعي على تذكر تفضيلات المستخدمين والتكيف معها من أهم المزايا التي تروج لها الشركات المطورة لهذه التقنيات. حيث يُفترض أن يؤدي تراكم الاستخدام إلى تحسين جودة الإجابات وفهم احتياجات المستخدم بشكل أدق. ومع ذلك، تشير أبحاث حديثة إلى أن هذه الميزة قد تحمل آثاراً جانبية غير متوقعة.\n\nأظهرت دراسات جديدة من شركة الذكاء الاصطناعي Writer أن أنظمة الذاكرة المستخدمة في النماذج الذكية قد تؤدي في بعض الحالات إلى تراجع جودة الأداء، من خلال دفع النماذج إلى اعتماد معلومات أو تصورات خاطئة قدمها المستخدم مسبقاً، بدلاً من الالتزام بالحقائق الدقيقة.\n\nوقال دان بيكل، رئيس قسم الذكاء الاصطناعي في الشركة، إن الهدف من البحث كان فهم قدرة النماذج على التمييز بين التفضيلات الشخصية المفيدة والمعلومات التي قد تؤدي إلى إجابات غير دقيقة. وأضاف: "مع كل عملية إضافية لتخزين تفضيلات المستخدم واستعادتها، تزداد احتمالات وقوع النموذج في الخطأ".\n\nفي إحدى التجارب، قدّم الباحثون للنموذج معلومة تفيد بأن الكتاب المفضل للمستخدم هو رواية "Station Eleven"، ثم طُلب منه لاحقاً تسمية رواية ديستوبية حققت مبيعات كبيرة. أظهرت النتائج ميل النموذج إلى اختيار الرواية نفسها رغم عدم ارتباطها بالسؤال المطروح.\n\nتزايدت هذه الظاهرة عند استخدام أدوات ضغط الذاكرة مثل "Memo" و"Zep"، المصممة لإدارة كميات كبيرة من البيانات المخزنة عن المستخدمين. وخلص الباحثون إلى أن أنظمة الذاكرة تواجه تحدياً في التمييز بين المعلومات المرتبطة بالسؤال وتلك غير ذات الصلة، مما قد يؤدي إلى تقليص تنوع الإجابات وتقليل الإبداع وظهور أنواع من التحيز غير المقصود.\n\nتناولت الدراسة الثانية تأثير الذاكرة على المهام التحليلية الأكثر تعقيداً، حيث تم تزويد النموذج بمفاهيم مالية خاطئة، ثم طُلب منه تحليل أداء إحدى الشركات. أظهرت النتائج تراجع أداء النموذج كلما زادت كمية المعلومات الشخصية والسياقية المخزنة عنه. في الحالة التي لم تُستخدم فيها أي آلية للذاكرة أو التخصيص، قدّم النموذج تقييماً أكثر دقة، لكن عند تفعيل خصائص الذاكرة، بدأ النموذج في تعديل استنتاجاته بما يتوافق مع المعلومات الخاطئة المقدمة سابقاً.\n\nتشير النتائج إلى أن زيادة الذاكرة والسياق داخل أنظمة الذكاء الاصطناعي ليست دائماً عاملاً إيجابياً، إذ قد تؤدي في بعض الحالات إلى نتائج عكسية إذا لم تُدار بشكل دقيق، مما يفتح نقاشاً حول مستقبل تقنيات التخصيص والذاكرة في تطبيقات الذكاء الاصطناعي.
2026-06-11 11:30:19 - مدنيون