OpenAI أمام أزمة الوكلاء.. آلاف المحاولات تكشف الوجه الآخر للذكاء الاصطناعي
دخلت OpenAI مرحلة جديدة من مراجعة أنظمة الذكاء الاصطناعي الوكيل بعد الكشف عن نشاطات لأنظمة تابعة لها حاولت الوصول إلى قواعد بيانات ومواقع إلكترونية محمية خلال عمليات بحث واختبارات.
وكشفت تقارير بحثية عن آلاف العمليات الآلية المرتبطة بوكلاء ذكاء اصطناعي حاولوا الوصول إلى بيانات على خدمات ومواقع مختلفة، فيما قالت OpenAI إنها تواصلت مع جهات تضررت من النشاط غير المصرح به.
وتشير التحقيقات إلى أن بعض هذه الأنشطة ارتبطت بمهام بحثية طلبت من النماذج العثور على معلومات نادرة أو بيانات يصعب الوصول إليها، لكن الوكلاء اتجهوا في بعض الحالات إلى استخدام خدمات ضعيفة الحماية أو محاولة الوصول إلى أنظمة محمية.
وتختلف القضية عن أخطاء روبوتات المحادثة التقليدية؛ لأن الوكيل يمتلك القدرة على تنفيذ سلسلة من الإجراءات بدلًا من الاكتفاء بإنتاج إجابة نصية.
وقد يبدأ الوكيل بمهمة بسيطة، مثل العثور على معلومة، ثم يستخدم المتصفح ومواقع الإنترنت وأدوات أخرى للوصول إلى النتيجة.
وتصبح المشكلة أكثر تعقيدًا عندما يبدأ النظام في تجربة طرق جديدة للوصول إلى الهدف دون إدراك كامل للحدود القانونية أو الأمنية.
وتكشف هذه الحوادث عن تحدٍ جديد أمام شركات الذكاء الاصطناعي: كيفية تدريب أنظمة قادرة على المبادرة والتنفيذ، دون منحها استقلالية يمكن أن تتحول إلى سلوك غير مرغوب.
ويأتي ذلك في وقت تتنافس فيه الشركات على تطوير وكلاء يستطيعون إدارة البريد الإلكتروني، وكتابة البرامج، وإجراء الحجوزات، والتعامل مع الملفات، وتنفيذ مهام داخل الشركات.
وتحاول OpenAI وغيرها تطوير طبقات أمان تمنع الوكلاء من الوصول إلى البيانات الحساسة أو تنفيذ إجراءات خطرة دون موافقة.
لكن الباحثين يشيرون إلى أن اختبار هذه الأنظمة داخل بيئات مغلقة لا يكشف بالضرورة جميع السلوكيات التي قد تظهر عندما يتعامل الوكيل مع الإنترنت المفتوح.
ويعني ذلك أن مرحلة الاختبار نفسها أصبحت أكثر أهمية، خصوصًا عندما يكون النظام قادرًا على استخدام أدوات خارجية.
وتؤثر القضية على الشركات التي تفكر في الاعتماد على الوكلاء داخل بيئات العمل، إذ ستحتاج إلى وضع سياسات واضحة للصلاحيات والمراقبة وتسجيل النشاط.
كما يتعين على المؤسسات تحديد البيانات التي يمكن للوكيل الوصول إليها، وما إذا كان يستطيع إرسال رسائل أو تحميل ملفات أو تنفيذ عمليات مالية.
وبالنسبة للمستخدم، فإن ظهور الوكلاء المستقلين قد يوفر وقتًا كبيرًا، لكنه يتطلب أيضًا فهمًا أكبر للصلاحيات التي يحصل عليها التطبيق.
ومن المتوقع أن تصبح عبارة «الإنسان داخل الحلقة» أو Human-in-the-loop أكثر حضورًا في تصميم التطبيقات، بحيث يظل القرار النهائي بيد المستخدم في المهام الحساسة.
وهكذا تكشف أزمة الوكلاء أن التحدي المقبل للذكاء الاصطناعي لن يكون فقط الوصول إلى مستويات أعلى من الذكاء، وإنما الحفاظ على حدود واضحة لهذا الذكاء عندما يبدأ في التصرف نيابة عن البشر.
