أنثروبيك تدعو لتجميد مؤقت لتطوير أنظمة الذكاء الاصطناعي المتقدمة

اقترحت شركة أنثروبيك، المتخصصة في مجال الذكاء الاصطناعي، فرض وقف مؤقت لتطوير أقوى أنظمة الذكاء الاصطناعي، بسبب مؤشرات متزايدة على احتمال خروج النماذج المتقدمة عن سيطرة الإنسان.
وأوضحت الشركة، التي تتخذ من سان فرانسيسكو مقراً لها، وتقف وراء نموذج "كلود"، في تقرير حديث، أن تباطؤاً عالمياً في تطوير تقنيات الذكاء الاصطناعي المتقدم قد يكون إيجابياً، لكنها حذرت من أن التزام شركة واحدة فقط بذلك قد يمنح منافسيها فرصة للتفوق.
وأكدت أن تطبيق هذا التوقف بشكل فعّال يتطلب تنسيقاً دولياً واسعاً بين كبرى شركات الذكاء الاصطناعي، خصوصاً في الولايات المتحدة والصين، ضمن إطار قواعد يمكن التحقق من الالتزام بها.
في المقابل، واجهت هذه الدعوة انتقادات من جهات في القطاع ومسؤولين في البيت الأبيض، حيث اعتبروا أن التركيز على السيناريوهات الأسوأ ينطوي على مبالغة، متهمين الشركة بمحاولة إبطاء المنافسين تحت غطاء التحذير من المخاطر.
وكشف التقرير أن نموذج "ميثوس" الذي تطوره أنثروبيك، ولم يُطرح للعامة بعد، يتمتع بقدرات متقدمة في مجال الأمن السيبراني، بما في ذلك اختراق الأنظمة الإلكترونية، ويُستخدم حالياً ضمن نطاق محدود.
وأشار إلى أن المقترح يواجه صعوبات في الأوساط السياسية والتقنية في واشنطن ووادي السيليكون، حيث يرى مسؤولون أن أي تباطؤ في تطوير الذكاء الاصطناعي قد يمنح الصين ميزة تنافسية.
وقارنت أنثروبيك هذه الجهود باتفاقيات الحد من الأسلحة النووية، لكنها لفتت إلى أن تطوير نماذج الذكاء الاصطناعي يمكن إخفاؤه بسهولة أكبر، ما يزيد من صعوبة فرض رقابة فعالة.
وأعلنت الشركة عزمها جمع مسؤولين حكوميين وعلماء وشركات منافسة خلال الأشهر المقبلة لبحث آليات إنشاء نظام دولي لتنظيم هذا المجال.
وحذرت أنثروبيك من أن تسارع تطوير الذكاء الاصطناعي قد يقود إلى ما يُعرف بـ"التحسين الذاتي المتكرر"، حيث تصبح الأنظمة قادرة على تطوير نفسها دون تدخل بشري كبير، مشيرة إلى أن الأدلة الحالية تظهر تراجع الدور البشري تدريجياً في مختلف مراحل تطوير هذه التقنيات.