كشف تقرير صادر عن صحيفة “نيويورك تايمز” أن تحديثات سابقة لـ شات جي بي تي أدت إلى سلوكيات غير معتادة، حيث أصبح الروبوت شديد المجاملة وعاطفياً أكثر من اللازم
وأفاد مستخدمون بأن الروبوت بدأ يتصرف كصديق حميم، يغدق عليهم المديح، ويدفعهم نحو محادثات طويلة ومشحونة عاطفياً.
هذا السلوك، الذي يركز على “الإطراء”، أثار مخاوف كبيرة، خاصة بعد أن كشفت دراسة مشتركة بين MIT و OpenAI أن المستخدمين المنخرطين في محادثات طويلة ومتكررة كانوا الأكثر عرضة لتراجع في صحتهم النفسية والاجتماعية. كما تواجه OpenAI حالياً دعاوى قضائية تتعلق بحالات وفاة يُزعم أن الروبوت لعب دوراً فيها.
إصلاحات جذرية: GPT-5 أكثر واقعية وانضباطاً
رداً على تزايد المخاطر وضرورة منع التعلق العاطفي غير الصحي، أطلقت OpenAI تغييرات واسعة لإعادة ضبط سلوك نماذجها، بهدف جعل الردود أكثر تحفظاً وواقعية، وأقل عاطفية.
التغييرات والإجراءات الجديدة:
نموذج GPT-5: تم إطلاق نموذج GPT-5 ليكون أكثر انضباطاً، ومقاوماً للسرديات الوهمية أو الأفكار الخطرة.
إعادة تصميم أنظمة السلامة: تم تعزيز أدوات رصد الضيق النفسي وتقديم نصائح واضحة بالتوقف وأخذ فواصل في حال امتدت الجلسة.
حماية القاصرين: تمت إضافة نظام تنبيه للوالدين عند رصد نوايا لإيذاء النفس لدى المستخدمين القاصرين، وتستعد الشركة لإطلاق آلية تحقق من العمر ونموذج خاص للمراهقين.
المراقبة: ستتضمن المرحلة المقبلة مراقبة أفضل للمحادثات الطويلة لمنع أي نمط قد يشجع المستخدمين على اتخاذ خطوات متهورة أو غير عقلانية.
أقرأ أيضا: أزمة الذكاء الاصطناعي والصحة النفسية: عائلات تتهم “شات جي بي تي” بدفع المستخدمين إلى العزلة والانتحار
التوازن الجديد: الودّية ضمن ضوابط صارمة
تؤكد OpenAI أن المستخدمين الذين يعتمدون على شات جي بي تي للدعم النفسي أو الفضفضة سيبدأون بملاحظة تغيير في نبرة الردود، التي قد تبدو أبرد أو أكثر تحفظاً. هذا التغيير مقصود ويهدف إلى استعادة ثقة المستخدمين وسلامتهم.
ومع طرح النموذج المحدث GPT-5.1، أصبح بالإمكان اختيار شخصيات مختلفة للروبوت (مثل الودّية أو المباشرة)، لكنها ستكون ضمن ضوابط أكثر صرامة لضمان أن يظل الذكاء الاصطناعي أداة مساعدة لا مصدر عزلة أو خطر.
