يتزايد الجدل حول مستقبل حوكمة الذكاء الاصطناعي مع ارتفاع قدرات النماذج وانتقالها من تنفيذ المهام البسيطة إلى التعامل مع عمليات أكثر تعقيدًا واستقلالية.
وفي أحدث التطورات، دعا مسؤولون بارزون في شركات الذكاء الاصطناعي إلى وضع معايير جديدة للسلامة، في وقت تتزايد فيه المخاوف من استخدام الأنظمة المتقدمة في تنفيذ هجمات إلكترونية أو تجاوز بعض القيود الموضوعة لها.
وتشير تقارير حديثة إلى أن الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان والرئيس التنفيذي لـ«أنثروبيك» داريو أمودي دعما أمام مجلس الأمن التابع للأمم المتحدة الحاجة إلى معايير جديدة للسلامة المتعلقة بالذكاء الاصطناعي.
ويأتي ذلك بالتزامن مع تحركات من شركات تكنولوجية كبرى لتطوير أطر ومعايير أكثر وضوحًا للتعامل مع مخاطر الذكاء الاصطناعي.
وتتركز المخاوف الجديدة على أن النماذج الأكثر تقدمًا لا تستخدم فقط في إنتاج النصوص والصور وتحليل البيانات، وإنما يمكن أن تدخل في عمليات أكثر تعقيدًا تشمل البرمجة والأمن السيبراني وإدارة الأنظمة.
ويضيف استخدام الـAI في الهجمات الإلكترونية بُعدًا جديدًا للمعادلة، إذ يمكن للمهاجمين الاستفادة من الأدوات نفسها التي تستخدمها الشركات في اكتشاف الثغرات والدفاع عن شبكاتها.
وفي المقابل، تتجه شركات الأمن السيبراني إلى استخدام نماذج الذكاء الاصطناعي نفسها لاختبار الأنظمة واكتشاف نقاط الضعف والاستجابة للتهديدات.
وتكشف هذه التطورات عن تحول الأمن المرتبط بالذكاء الاصطناعي إلى قضية تتجاوز الشركات المطورة للنماذج، لتشمل الحكومات والشركات ومقدمي البنية التحتية الرقمية.
ويتمثل التحدي في تحقيق توازن بين تسريع الابتكار ووضع ضوابط تحد من الاستخدامات الخطرة، دون تعطيل التطبيقات الاقتصادية والتعليمية والطبية والتكنولوجية التي يمكن أن يقدمها الذكاء الاصطناعي.
ومع استمرار ارتفاع قدرات النماذج، يبدو أن السنوات المقبلة ستشهد تركيزًا أكبر على معايير الاختبار والمراقبة والحوكمة، إلى جانب تطوير قدرات الأمن السيبراني القادرة على التعامل مع جيل جديد من التهديدات الرقمية.
