أثار تقرير حديث جدلاً واسعًا بعد الكشف عن استخدام نموذج Veo 3 من جوجل في إنتاج مقاطع فيديو قصيرة على تيك توك تحمل مضامين عنصرية ومعادية
بحسب تقرير صادر عن منظمة MediaMatters، انتشرت على تيك توك عشرات المقاطع التي لا تتعدى 8 ثوانٍ، والتي تتضمن محتوى مسيئًا لأصحاب البشرة السمراء واليهود والمهاجرين. وتم رصد إشارات واضحة لعلامة “Veo”، ما يؤكد أن المقاطع أُنتجت باستخدام تقنية Google الجديدة.
تشمل الانتهاكات صورًا نمطية قديمة تُشبّه السود بالقرود أو تصوّرهم كمشتبه بهم دائمين، إلى جانب إيحاءات معادية للسامية تم نشرها عبر حسابات منظمة.
سهولة التلاعب بنموذج جوجل رغم “الحواجز الأخلاقية”
على الرغم من تعهد جوجل عند إطلاق Veo 3 في مايو الماضي بإجراءات صارمة لمنع إساءة استخدام النموذج، إلا أن تجارب أجرتها جهات مستقلة كشفت إمكانية التحايل على الفلاتر الأخلاقية باستخدام تعليمات غامضة، ما سمح بإنتاج محتوى مسيء بجودة عالية.
وتُعد هذه الثغرة مؤشرًا خطيرًا على هشاشة أنظمة الأمان المدمجة داخل أدوات الذكاء الاصطناعي المتقدمة، خاصة عندما تُستخدم على منصات ذات جماهيرية واسعة مثل تيك توك.
تيك توك: سياسة صارمة وتنفيذ محدود
رغم سياسات تيك توك المعلنة التي تحظر خطاب الكراهية، إلا أن المنصة لم تتمكن من منع انتشار هذه المقاطع في الوقت الفعلي، حيث حصل بعضها على آلاف المشاهدات قبل التدخل.
وأكد متحدث باسم تيك توك لموقع Ars Technica أن أكثر من نصف الحسابات المعنية تم إغلاقها قبل نشر التقرير، وتمت متابعة البقية لاحقًا. لكنه أقرّ بصعوبة السيطرة الكاملة بسبب العدد الهائل من التحميلات اليومية.
أقرأ ايضا: جوجل تطلق Veo 3 لتوليد الفيديوهات بالذكاء الاصطناعي في الشرق الأوسط وشمال أفريقيا
جوجل في موقف محرج قبل إطلاق Veo على YouTube Shorts
رغم تعهدها بعدم السماح باستخدام تقنياتها في الترويج للكراهية، يضع هذا التقرير شركة جوجل تحت المجهر، خاصة في ظل خططها لدمج Veo 3 قريبًا في منصة YouTube Shorts، ما قد يُفاقم الأزمة ويُنذر بموجة جديدة من المحتوى التحريضي.
ولم تُصدر جوجل حتى الآن ردًا رسميًا بشأن الإجراءات الوقائية الفعلية داخل النموذج، ما يُثير مخاوف من أن الذكاء الاصطناعي قد يتحول لأداة خطيرة في غياب رقابة فعالة.
الذكاء الاصطناعي التوليدي: الإبداع في مواجهة الإساءة
تُعيد هذه الواقعة فتح النقاش حول الوجه المظلم للذكاء الاصطناعي التوليدي، الذي رغم قدراته الإبداعية الهائلة، قد يُستغل بشكل ممنهج لنشر الكراهية والتفرقة.
وتطالب منظمات ومراقبون بإعادة تقييم شامل لأنظمة المراقبة والخوارزميات، وتفعيل إطار أخلاقي وقانوني صارم يحكم عمل أدوات الذكاء الاصطناعي، في وقت باتت فيه هذه التقنيات جزءًا لا يتجزأ من الحياة الرقمية اليومية.
