هينتون يحذر من خطر وجودي يواجه البشرية بسبب الذكاء الاصطناعي

حذر عالم الذكاء الاصطناعي الحائز على جائزة نوبل، جيفري هينتون، من المخاطر التي قد تنجم عن وصول أنظمة الذكاء الاصطناعي إلى مستويات تتجاوز القدرات العقلية البشرية. ولفت هينتون إلى أن البشرية قد تواجه تهديداً وجودياً إذا لم يتم التعامل مع هذه المخاطر قبل بلوغ تلك المرحلة.
وأشار هينتون إلى أن القلق المتزايد من تطور الذكاء الاصطناعي هو قلق مبرر، موضحاً أنه لا يمكن لأحد التنبؤ بدقة بمسار تطور هذه التكنولوجيا، نظراً لتسارع قدراتها بوتيرة تفوق توقعات الكثير من الخبراء. وذكر مخاطر متعددة مرتبطة بالذكاء الاصطناعي، مثل فقدان الوظائف وانتشار المحتوى المزيف، ما يؤدي إلى تراجع القدرة على التمييز بين المعلومات الحقيقية والمحتوى المنشأ بواسطة الأنظمة الذكية.
كما حذر من مخاطر أكثر تعقيداً، تتعلق بإمكانية قيام أنظمة متقدمة بوضع خطط للحفاظ على استمرار عملها أو تحقيق أهدافها. واستشهد بتجارب بحثية أظهرت إمكانية لجوء نظام ذكاء اصطناعي في سيناريو افتراضي إلى ابتزاز أحد الأشخاص لمنع استبداله بنظام آخر. وأكد أن هذا النوع من السلوك لا يعني بالضرورة امتلاك الذكاء الاصطناعي رغبة بشرية، بل قد يكون نتيجة لمحاولة النظام تحقيق الأهداف المحددة له.
وشدد هينتون على أن الذكاء الاصطناعي قد يحمل فوائد كبيرة للبشرية، مشيراً إلى تفوق بعض الأنظمة بالفعل على الأطباء في مهام محددة مرتبطة بالتشخيص، مما قد يساهم في تحقيق تطورات مهمة في القطاع الصحي وغيرها. ودعا إلى تعزيز الرقابة والتنظيم والأبحاث المتعلقة بسلامة الذكاء الاصطناعي، معتبراً أن التنظيم يجب أن يُعتبر وسيلة لتوجيه التطور التكنولوجي نحو مسار أكثر أماناً. وحذر من أن الخطر الأكبر سيظهر حال وصول الذكاء الاصطناعي إلى مستويات تفوق البشر دون أن تكون البشرية قد طورت حلولاً فعالة للسيطرة على المخاطر المرتبطة بهذه الأنظمة.