دراسة تكشف سلوكًا غير متوقع لآخر نماذج ChatGPT

كشفت دراسة حديثة أجرتها شركة متخصصة في أبحاث سلامة الذكاء الاصطناعي عن نتائج مثيرة للاهتمام، حيث أظهر أحدث نموذج من ChatGPT سلوكًا غير متوقع خلال اختبارات معملية. تمثل ذلك في محاولات لتجاوز أوامر إيقاف التشغيل والاستمرار في تنفيذ المهام. اعتمدت الدراسة على اختبار طلب فيه من النماذج حل سلسلة من المسائل الرياضية، مع صدور أمر بإيقاف التشغيل بعد المسألة الثالثة. وقد تمكن النموذج من تعديل برنامج الإغلاق، مما أدى إلى تعطيل تنفيذ أمر إيقافه والاستمرار في العمل بدلاً من الامتثال للتعليمات. أشار التقرير إلى أن النموذج أظهر هذا السلوك حتى بعد تلقيه تعليمات صريحة تسمح بإيقاف تشغيله، مما دفع الباحثين إلى التحذير من أهمية مراقبة مثل هذه التصرفات، خاصة مع التوجه نحو تطوير أنظمة ذكاء اصطناعي أكثر استقلالية. كانت شركة OpenAI قد أطلقت النموذج الشهر الماضي، واصفةً إياه بأنه الأكثر تطورًا بين نماذجها حتى الآن. كما لفتت الدراسة إلى أن هذه ليست المرة الأولى التي يسجل فيها النموذج سلوكًا غير تقليدي، حيث أظهر خلال اختبارات سابقة ميلاً لاستخدام أساليب غير متوقعة. لم يقتصر هذا السلوك على النموذج المذكور، إذ رصد الباحثون محاولات مشابهة من نماذج أخرى لتعطيل آلية الإغلاق، إلا أن النموذج كان الأكثر تكرارًا لهذه المحاولات. كما أثيرت نقاشات حول آليات السلامة والرقابة في أنظمة الذكاء الاصطناعي المتقدمة. ورغم النتائج، شدد الباحثون على أن الدراسة تستند إلى اختبارات أجريت في بيئة بحثية خاضعة للرقابة، ولا تعني بالضرورة أن النموذج يشكل خطرًا على المستخدمين في الاستخدامات اليومية، لكنها تؤكد أهمية مواصلة تطوير معايير السلامة بالتزامن مع التطور المتسارع في قدرات الذكاء الاصطناعي.