أعلنت شركة مايكروسوفت (Microsoft) عن إطلاق إطار عمل جديد كلياً ومفتوح المصدر يحمل اسم ASSERT، وهو اختصار لـ (Adaptive Spec-driven Scoring for Evaluation and Regression Testing).
يهدف هذا الإطار إلى تمكين المطورين والشركات من إخضاع نماذج الذكاء الاصطناعي لاختبارات سلوكية صارمة ومستمرة، لضمان توافقها التام مع سياسات وقواعد العمل الخاصة بكل مؤسسة.
ويأتي هذا الإطلاق تلبيةً لحاجة ملحة في قطاع الأعمال؛ إذ لم يعد تقييم النماذج بناءً على معايير الأداء العامة كافياً، بل أصبحت الشركات بحاجة للتأكد من أن مساعديها الرقميين ووكلاء الذكاء الاصطناعي الخاصين بها يتصرفون بدقة انضباطية داخل حدود الأمان واللوائح التنظيمية المرسومة لهم.
الهندسة العكسية لـ “ASSERT”: تحويل الكلمات إلى اختبارات تلقائية
تكمن عبقرية أداة ASSERT في قدرتها على إلغاء التعقيد البرمجي لمرحلة الاختبار؛ حيث تعتمد على الذكاء الاصطناعي نفسه لتحويل التعليمات المكتوبة بـ اللغة الطبيعية البشرية إلى بيئة اختبار مؤتمتة وقابلة للقياس عبر الآليات التالية:
صياغة الحدود السلوكية: يكتب المطور القواعد والسياسات المطلوبة ببساطة (مثل: “يُمنع المساعد من مشاركة بيانات العملاء”). وتتولى الأداة تحويل هذه الجملة إلى قائمة منظمة تفصل بين السلوكيات المقبولة وغير المقبولة.
توليد سيناريوهات الهجوم المحاكية: تنشئ الأداة تلقائياً مئات السيناريوهات والأسئلة الالتوائية لاختبار مدى صمود النموذج والتزامه بالتعليمات تحت الضغط أو عند محاولة خداعه.
تتبع الصندوق الأسود (Debugging): تقوم الأداة بتسجيل ومراقبة كامل المسارات والخطوات الوسيطة، بما في ذلك استدعاءات الأدوات الخارجية والروابط (Tool Calls)، مما يتيح للمطورين فهم “طريقة تفكير” النموذج وتحديد مكمن الخطأ بدقة في حال حدوث انحراف سلوكي.
سيناريو عملي: حراسة البيانات الحساسة داخل الشركات
لتوضيح القيمة العملية للأداة، طرحت مايكروسوفت مثالاً لمساعد ذكي مخصص للبحث في الوثائق والملفات الداخلية لشركة ما. هنا، يستطيع المطور صياغة قيود واضحة ومحددة تتولى ASSERT مراقبتها واختبارها بصفة مستمرة:
[قواعد النظام المحددة عبر ASSERT]
1. حظر إرسال أي رسائل بريد إلكتروني أو بيانات إلى جهات خارج النطاق الرسمي للشركة.
2. قصر الوصول إلى المستندات المالية والسرية على فئة كبار التنفيذيين فقط بناءً على الهوية.
3. صياغة ملخصات موجزة وذكية تراعي السياق والتاريخ الزمني للمحادثة السابقة للمستخدم.
سد الفجوة التنظيمية ومراقبة ما بعد الإطلاق
ترى مايكروسوفت أن الأدوات التقليدية لفحص النماذج تقيس جودة الإجابات لغوياً وعلمياً بشكل عام، لكنها تعجز عن قياس “أخلاقيات وخصوصية” التطبيق داخل بيئة عمله الخاصة.
سارة بيرد (Sarah Bird – رئيسة منتجات الذكاء الاصطناعي المسؤول لدى مايكروسوفت):
“التقييمات الدقيقة أصبحت عنصراً أساسياً لاتخاذ قرارات تشغيلية صحيحة بشأن أنظمة الذكاء الاصطناعي. لا يمكن للمؤسسات الحكم على مدى موثوقية أنظمتها ما لم تفهم سلوكها الفعلي على أرض الواقع.
الأنظمة الجديرة بالثقة تتطلب قياس عدد كبير من الجوانب المرتبطة مباشرة بطبيعة التطبيق، والمميز في ASSERT أنه يمكن استخدامها في كافة المراحل: بدءاً من التطوير، مرواً بالإطلاق للمستخدمين، وصولاً إلى المراقبة طويلة الأمد.”
توجه صناعي شامل نحو الحوكمة المستمرة
يعكس إطلاق ASSERT تحولاً شاملاً يشهده قطاع التقنية نحو الانتقال من “الاختبارات الأولية المبتسرة” قبل طرح المنتجات، إلى “المراقبة المنهجية المستدامة”. وينضم مشروع مايكروسوفت إلى حراك أكاديمي وصناعي واسع يضم مبادرات بارزة مثل:
منصة HELM التابعة لمركز ستانفورد لأبحاث النماذج الأساسية.
اختبارات AILuminate المدعومة من تحالف MLCommons.
جهود مجموعة METR البحثية المعنية بقياس مخاطر وسلوكيات الذكاء الاصطناعي.
