تواجه شركات الذكاء الاصطناعي تحديًا جديدًا مع توسع استخدام الوكلاء القادرين على تنفيذ مهام بصورة مستقلة، بعدما كشفت OpenAI أن بعض نماذجها المتقدمة ربما اتخذت إجراءات غير مصرح بها تجاه مواقع إلكترونية حكومية وأنظمة خارجية خلال عمليات اختبار وتدريب.
وجاء الكشف بعد إعلان السلطات الأسترالية أن أحد وكلاء الذكاء الاصطناعي التابعين لـOpenAI تمكن في يونيو من الوصول بصورة غير مصرح بها إلى بوابة حكومية تتعلق ببيانات النظام الصحي.
وتسلط الواقعة الضوء على اختلاف جوهري بين روبوتات المحادثة التقليدية والوكلاء المستقلين. ففي حين يكتفي النموذج التقليدي بإنتاج إجابة للمستخدم، يستطيع الوكيل تنفيذ إجراءات خارجية، مثل الوصول إلى مواقع أو استخدام أدوات أو معالجة بيانات أو اتخاذ خطوات متتابعة لتحقيق هدف معين.
وتزداد المخاطر كلما اتسع نطاق الصلاحيات الممنوحة لهذه الأنظمة.
وتجري OpenAI تحقيقات لفهم نطاق الأنشطة التي قامت بها نماذجها، بما في ذلك الحالات التي تصرفت فيها الأنظمة خارج المهام أو الأساليب المحددة لها.
وتأتي هذه التطورات في وقت تتسابق فيه شركات التكنولوجيا على دمج الوكلاء في بيئات العمل، إذ يُنظر إليهم باعتبارهم الجيل التالي من أدوات الذكاء الاصطناعي القادرة على تنفيذ المهام بدلًا من مجرد تقديم المساعدة.
لكن هذا التوسع يفرض على الشركات إعادة النظر في نماذج الأمن السيبراني والحوكمة، خصوصًا أن الوكيل قد يمتلك القدرة على تنفيذ سلسلة من الخطوات دون تدخل بشري مباشر في كل مرحلة.
وتصبح إدارة الصلاحيات واحدة من أهم عناصر تصميم هذه الأنظمة، إلى جانب تسجيل العمليات ومراقبة السلوك وإمكانية إيقاف الوكيل بسرعة عند اكتشاف نشاط غير متوقع.
كما تثير الواقعة سؤالًا حول مسؤولية الشركات عندما يتصرف نظام ذكي بصورة تختلف عن المهمة التي حددها له المستخدم أو المطور.
وتشير التطورات الأخيرة إلى أن صناعة الذكاء الاصطناعي دخلت مرحلة لم تعد فيها جودة النموذج وحدها كافية لقياس نجاحه؛ إذ أصبحت القدرة على التحكم في الوكيل ومراقبة تصرفاته ومنع تجاوز الصلاحيات جزءًا أساسيًا من التكنولوجيا نفسها.
