دعوة للابتكار من "أنثروبيك" للحد من تطور الذكاء الاصطناعي

حذر جاك كلارك، الشريك المؤسس لشركة "أنثروبيك" المتخصصة في مجال الذكاء الاصطناعي، من تسارع تطوير تكنولوجيا الذكاء الاصطناعي بشكل قد يفقد البشر السيطرة عليها قريباً. وشدد على ضرورة اتخاذ إجراءات من قبل القطاع لوضع "مكابح" تضمن سلامة هذه الأنظمة قبل أن تبدأ في تطوير نفسها ذاتياً دون تدخل بشري.
وفي مقابلة مع هيئة الإذاعة البريطانية، أوضح كلارك أن أنظمة الذكاء الاصطناعي الخاصة بالشركة، وخاصة الروبوت "كلود"، تقوم حالياً بإنجاز نحو 80% من أعمال البرمجة، ومن المتوقع أن تصل هذه النسبة إلى 100% في غضون عامين.
وأشار كلارك إلى أن التحدي يكمن في اختيار الشركات المطورة بين ترك التقنية تتطور بحرية أو التدخل لضبطها، حيث قال: "إن قطاع الذكاء الاصطناعي اليوم يمتلك دواسة وقود قوية، لكنه يفتقر تماماً إلى دواسة فرامل، ونحن نريد العمل على بناء هذه الدواسة قبل فوات الأوان".
وتزامنت تصريحاته مع تدوينة نشرتها "أنثروبيك"، حذرت فيها من ظاهرة تُعرف باسم "التحسين الذاتي التكراري"، والتي تعني قدرة "وكلاء الذكاء الاصطناعي" على بناء وتدريب نماذج جديدة دون مساعدة بشرية.
ورغم اعتراف الشركة بالفوائد المحتملة لهذا التطور في مجالات العلوم والرعاية الصحية، إلا أنها أكدت أن الاعتماد على النماذج التكرارية يزيد بشكل كبير من مخاطر فقدان البشر القدرة على توجيه ومراقبة هذه الأنظمة.
وأكدت "أنثروبيك" أن الأدلة الحالية تشير إلى تراجع دور العنصر البشري في مراحل التطوير، مستشهدة بانخفاض معدل تصحيح الأخطاء البرمجية التي يقوم بها الموظفون، بالإضافة إلى قدرة "كلود" على إجراء تجارب بحثية مستقلة.
وفي مواجهة هذا التحدي، أعلنت "أنثروبيك" عن بدء أبحاث متخصصة تهدف إلى بناء نظام للتحقق مما إذا كان المطورون قد نجحوا في إبطاء أو إيقاف اندفاع الأنظمة نحو "التحسين التكراري". ومع ذلك، اعترفت الشركة بأن تحقيق تباطؤ فعلي يتطلب خطوة أوسع تشمل اتفاق جماعي بين المختبرات العالمية الكبرى ومراكز التطوير لضمان التهدئة وفقاً لشروط موحدة.