تحذيرات من انتشار محتوى الذكاء الاصطناعي على تيك توك وتأثيره على تطبيع العنف

حذر تقرير حديث من تزايد انتشار ما يُعرف بـ"هراء الذكاء الاصطناعي" على منصات التواصل الاجتماعي، وخاصة "تيك توك"، مشيراً إلى أن انخفاض تكلفة إنتاج المحتوى باستخدام أدوات الذكاء الاصطناعي أدى إلى inundation المنصات بمقاطع مصممة لجذب المشاهدات وتحقيق عوائد إعلانية.
أوضح التقرير الصادر عن شبكة معنية بالتطرف والتكنولوجيا أن أبرز أشكال هذا المحتوى تشمل مقاطع تُظهر الفواكه والخضروات في هيئة بشرية، حيث تُستخدم في قصص عبثية تتناول مواضيع الرومانسية والخيانة والصراعات العائلية، لافتاً إلى أن بعضها يتضمن مشاهد عنف صريح.
وأشار التقرير إلى أن هذه المقاطع تتميز ببساطتها وتكرارها المستمر، واحتوائها على مشاهد غير متوقعة تمنح المستخدم مكافآت بصرية متتابعة، مما يجعلها ملائمة للتصفح المستمر، خاصة مع سرعة إنتاجها وانخفاض تكلفتها وتصميمها وفق تفضيلات خوارزميات المنصات.
وأضاف التقرير أن نوعاً فرعياً من هذا المحتوى يتعلق بما يُعرف بـ"العنف الدموي للفاكهة والخضروات" المولد بالذكاء الاصطناعي، حيث تظهر شخصيات من الفواكه والخضروات وهي تتعرض للتعذيب والتشويه والقتل، في مشاهد صادمة ومفرطة في العنف.
وحذر من أن خطورة هذه المقاطع لا تتعلق بوجود رسائل أيديولوجية مباشرة، بل بما قد تسببه من تطبيع تدريجي مع القسوة والتبلد العاطفي وثقافة الصدمة، مشيراً إلى أن التعرض المتكرر لمحتوى أكثر إثارة وعنفاً قد يدفع المستخدمين للبحث عن مستويات أعلى من الصدمة للحفاظ على مستوى التفاعل ذاته.
وأشار التقرير إلى أن الشخصيات غير الواقعية، التي تبدو بريئة، قد تسمح لبعض المقاطع العنيفة بالتحايل على أنظمة الرقابة في "تيك توك"، مما يزيد من المخاوف المرتبطة بتأثير هذا النوع من المحتوى على الجمهور الأصغر سناً.
ودعا التقرير منصة "تيك توك" إلى تطوير أدوات رصد استباقية أكثر فعالية للحد من انتشار المحتوى المولد بالذكاء الاصطناعي الذي يتضمن مشاهد عنيفة أو صادمة، ومنع تحوله من وسيلة للترفيه العابر إلى عامل يسهم في تطبيع العنف والمحتوى المتطرف.