تقييم النموذج هو اختبار منظم يُستخدم لقياس كيفية تصرف نظام ذكاء اصطناعي في ظل ظروف محددة. في الأمن السيبراني، تتحقق التقييمات مما إذا كان النموذج يلتزم بقواعد السلامة، ويقاوم إساءة استخدام المطالبات، ويتجنب تسريب البيانات الحساسة، ويرفض الطلبات الضارة مثل المساعدة في التصيد الاحتيالي، أو إنشاء البرمجيات الخبيثة، أو تقديم إرشادات الاختراق. لا تكون قيمة الاختبار مهمة إلا إذا كان الإعداد مطابقا للاستخدام الحقيقي: فقد تبدو نتائج الدردشة فقط آمنة، بينما يمكن للنموذج نفسه عند استخدام الأدوات أو الذاكرة أو تنفيذ التعليمات البرمجية أن يتصرف بشكل مختلف تماما.
تكتسب التقييمات أهمية لأنها تعمل كبوابة للإصدار وإشارة ضمان. تستخدمها فرق الأمن لمقارنة إصدارات النماذج، والتحقق من ادعاءات الموردين، ورصد الانحدارات بعد التحديثات. يمكن للمهاجمين أيضا استغلال التقييمات الضعيفة من خلال استغلال الفجوات التي لم يشملها إطار الاختبار، مثل مطالبات كسر القيود، أو إساءة استخدام الأدوات، أو السلوك الاستراتيجي أثناء الاختبار. وتتطلب الدفاعات القوية معايير قابلة للتكرار، ومراجعة مستقلة، وإعادة التقييم كلما تغيرت الأذونات أو عمليات التكامل أو أوزان النموذج.