تواجه شركة ميتا ضغوطًا متزايدة بشأن المحتوى المولد بالذكاء الاصطناعي على منصاتها، بعد تقارير كشفت عن انتشار مئات الإعلانات التي تستخدم تقنيات الذكاء الاصطناعي في إنتاج محتوى مثير للجدل، بينها مواد مرتبطة باستغلال الأطفال.
وتعيد القضية طرح أسئلة حول قدرة منصات التواصل الاجتماعي على مراقبة الإعلانات والمحتوى الذي يتم إنتاجه باستخدام أدوات الذكاء الاصطناعي، خصوصًا مع التطور السريع في قدرات توليد الصور والفيديو والنصوص.
وأصبح إنتاج محتوى مقنع بالذكاء الاصطناعي أكثر سهولة وأقل تكلفة، ما يتيح للمعلنين أو الجهات المخالفة إنتاج كميات كبيرة من المواد خلال وقت قصير، الأمر الذي يزيد العبء على أنظمة المراجعة التقليدية.
وتعتمد «ميتا» على مزيج من أنظمة الذكاء الاصطناعي والمراجعة البشرية لاكتشاف المحتوى المخالف، إلا أن الانتشار السريع للمحتوى المولد آليًا يفرض تحديات جديدة، خصوصًا عندما يكون المحتوى مصممًا للتهرب من أدوات الكشف.
وتكتسب القضية أهمية خاصة لأن الإعلانات تمثل مصدرًا رئيسيًا لإيرادات منصات «ميتا»، ما يخلق حاجة مستمرة إلى تحقيق توازن بين سرعة نشر الإعلانات وضرورة فحصها والتأكد من التزامها بالقواعد.
ولا تقتصر المشكلة على المحتوى الضار؛ فالمحتوى المولد بالذكاء الاصطناعي يثير أيضًا قضايا تتعلق بالاحتيال وانتحال الشخصيات والتضليل التجاري وانتهاك حقوق الملكية الفكرية.
ومع انتشار أدوات توليد الفيديو والصور الواقعية، أصبح من الصعب على المستخدم العادي التمييز بين المحتوى الحقيقي والمصطنع، ما يزيد مسؤولية المنصات في الكشف عن المحتوى الذي تم إنتاجه أو تعديله باستخدام الذكاء الاصطناعي.
وتواجه شركات التكنولوجيا الكبرى ضغوطًا متزايدة من المشرعين والجهات الرقابية بشأن كيفية إدارة هذا النوع من المحتوى، خاصة عندما يتعلق الأمر بالأطفال أو الانتخابات أو الصحة أو الإعلانات المالية.
وتأتي أزمة «ميتا» في وقت تسعى فيه الشركة إلى دمج الذكاء الاصطناعي بصورة أعمق في منتجاتها، سواء من خلال المساعدات الذكية أو أدوات إنشاء المحتوى أو خدمات الإعلان.
ويضع ذلك الشركة أمام تحدٍ مزدوج: الاستفادة من الذكاء الاصطناعي في تطوير أعمالها، وفي الوقت نفسه منع الأدوات ذاتها من التحول إلى قناة لنشر محتوى ضار أو مخالف.
ومن المتوقع أن يصبح تنظيم الإعلانات والمحتوى المولد بالذكاء الاصطناعي واحدًا من الملفات الرئيسية أمام شركات التكنولوجيا خلال الفترة المقبلة، مع انتقال التقنية من الاستخدامات التجريبية إلى نطاق واسع داخل منصات التواصل والإعلان الرقمي.
