كشفت شركة «أنثروبيك» عن تفاصيل جديدة بشأن إساءة استخدام نموذج الذكاء الاصطناعي التابع لها «كلود» في عمليات تضمنت التجسس والهجمات الإلكترونية وتطوير تقنيات عسكرية، في تطور يعيد فتح النقاش حول المخاطر المتزايدة لاستخدام نماذج الذكاء الاصطناعي المتقدمة خارج الأغراض التي صممت من أجلها.
وقالت الشركة في تقرير حديث إن تحقيقاتها خلال الأشهر الثمانية الماضية رصدت عدة حالات استغل فيها مستخدمون قدرات «كلود» لتنفيذ أنشطة عالية الخطورة، بعضها ارتبط بجهات حكومية أو مجموعات مرتبطة بدول.
وشملت الحالات التي كشفت عنها «أنثروبيك» عملية مرتبطة بإيران استخدمت قدرات الذكاء الاصطناعي للمساعدة في استهداف قوات بحرية أمريكية، إلى جانب استخدام مجموعة مرتبطة باليمن للنموذج في أعمال مرتبطة بتطوير الصواريخ.
كما رصدت الشركة حملة مرتبطة بالصين استخدمت «كلود» في تتبع أفراد من أقلية الإيجور، إضافة إلى حالة استخدم فيها أحد الأشخاص النموذج للمساعدة في بناء شبكة مراقبة تستهدف نحو 25 مليون هاتف.
وتكشف هذه الوقائع عن تحول مهم في طبيعة المخاطر المرتبطة بالذكاء الاصطناعي؛ إذ لم يعد القلق مقتصرًا على إنتاج محتوى مضلل أو إجابات غير دقيقة، وإنما امتد إلى إمكانية استخدام النماذج كأداة مساعدة في عمليات حقيقية تتطلب قدرات تقنية متقدمة.
وتقول «أنثروبيك» إن نماذج الذكاء الاصطناعي يمكن أن تخفض الحواجز أمام تنفيذ عمليات معقدة، بما يسمح لأشخاص أو مجموعات محدودة الموارد بالوصول إلى قدرات كانت تتطلب في السابق فرقًا متخصصة من الخبراء.
وتأتي هذه التطورات في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطًا متزايدة لإثبات قدرتها على منع إساءة استخدام نماذجها، خصوصًا مع ارتفاع مستوى استقلالية النماذج وقدرتها على تنفيذ سلسلة طويلة من المهام بدلًا من الاكتفاء بالإجابة عن الأسئلة.
وتدفع هذه الوقائع أيضًا باتجاه زيادة الاعتماد على أنظمة المراقبة والحواجز الأمنية داخل نماذج الذكاء الاصطناعي، إلا أن التطورات الأخيرة تشير إلى أن المنافسة بين قدرات النماذج وإجراءات الحماية أصبحت أكثر تعقيدًا.
وتكتسب القضية أهمية أكبر مع انتقال الذكاء الاصطناعي من أدوات مساعدة للمستخدمين إلى أنظمة قادرة على تنفيذ مهام متعددة الخطوات، وهو ما يجعل إساءة الاستخدام أكثر تأثيرًا وأصعب في بعض الحالات على الاكتشاف المبكر.
ويأتي تقرير «أنثروبيك» في توقيت تتزايد فيه المطالب بوضع قواعد أكثر صرامة لتطوير وتشغيل نماذج الذكاء الاصطناعي المتقدمة، خصوصًا تلك القادرة على التعامل مع البرمجيات والأنظمة الخارجية.
