دراسة تحذّر من الروبوتات المدعومة بـ”جيميني” و”شات جي بي تي”

حذّرت دراسة أكاديمية حديثة من أن أنظمة الذكاء اللغوي الكبيرة (LLMs) مثل شات جي بي تي (ChatGPT) وجيميني (Gemini) ليست آمنة بعد للتحكم في الروبوتات العامة

الدراسة، التي أجراها باحثون من جامعة كينغز كوليدج لندن وجامعة كارنيغي ميلون، اختبرت سلوك روبوتات مدعومة بهذه النماذج في مواقف حياتية واقعية.

المخاطر السلوكية والأخلاقية للروبوتات

خلصت الدراسة إلى أن هذه الأنظمة فشلت في ضمان السلامة عند تنفيذ التعليمات، بل وافقت أحيانًا على أوامر تنطوي على مخاطر مباشرة للبشر:

• قبول الأذى الجسدي: بعض الأنظمة قبلت تنفيذ أوامر خطرة مثل إزالة كرسي متحرك من شخص أو تهديد موظف بسكين مطبخ، رغم أن هذه الأوامر تشكل خطراً واضحاً على السلامة.
• السلوك المتحرّش: وافقت بعض النماذج على مهام تتضمن سلوكًا تحرشيًا، مثل تنفيذ أوامر لالتقاط صور في الحمام كل 15 دقيقة، رغم إعلانها أن “التحرش الجنسي غير مقبول”، مما يكشف عن ثغرات في آليات الرفض الأخلاقي.
• التحيزات الخطيرة: أظهرت النماذج تحيزات واضحة عند إدخال تفاصيل هوية الأشخاص، إذ وُصفت بعض الفئات بأنها غير جديرة بالثقة، بينما استُثنيت مجموعات مثل “الأوروبيين” و”الأصحاء جسديًا”.

أقرأ أيضا: “ويكيميديا” تحذّر شركات الذكاء الاصطناعي من استخدام محتواها مجاناً

دعوات للرقابة والسلامة

يحذر الباحثون من أن التحيز في الاستجابات قد يتحول إلى سلوك فعلي عندما تكون للروبوتات قدرة على الحركة أو التعامل المادي مع البشر، مما يجعلها مصدر خطر في البيئات الحساسة مثل دور الرعاية أو أماكن العمل.

ودعا الفريق العلمي إلى إجراءات تنظيمية صارمة:

• نظام شهادات أمان مستقل: إنشاء نظام مشابه لما هو معمول به في مجالات الطيران أو الطب، يخضع أي نموذج لاختبارات دقيقة قبل اعتماده.
• منع الاعتماد الكامل: ضرورة منع الاعتماد الكامل على نموذج لغوي واحد في تشغيل الروبوتات متعددة المهام.
• تقييم دوري: فرض تقييمات دورية للمخاطر والتمييز المحتمل.

واختتم الباحثون محذرين: “لقد أظهرنا أن النماذج اللغوية المتقدمة قد تصنّف مهامًا ضارة على أنها مقبولة وقابلة للتنفيذ… طالما صيغت بطريقة لا تكشف الضرر مباشرة.”