تدريب النموذج هو المرحلة التي يتعلم فيها نظام الذكاء الاصطناعي الأنماط من البيانات قبل نشره. أثناء التدريب، يضبط النموذج معلماته الداخلية لتقليل الأخطاء وتحسين التنبؤات اللاحقة أو المخرجات المولدة. قد تتطلب هذه العملية مجموعات بيانات كبيرة، وأجهزة متخصصة، وخطوط معالجة مُدارة بعناية.
في الأمن السيبراني، يعد التدريب هدفا عالي القيمة لأن نقاط الضعف في هذه المرحلة يمكن أن تؤثر في كل استخدام لاحق للنموذج. قد يحاول المهاجمون تسميم البيانات، عبر إدراج أمثلة خبيثة أو متحيزة للتأثير في السلوك، أو سرقة النموذج، من خلال نسخ الأوزان المدربة وعمل الضبط. يحمي المدافعون بيانات التدريب، ويقيدون الوصول إلى موارد الحوسبة، ويتحققون من سلامة مجموعات البيانات، ويراقبون أي عبث، ويتتبعون الأصل حتى يمكن الوثوق بالنموذج. يعد التدريب الآمن ضروريا لأن النموذج المخترق قد يبدو طبيعيا أثناء النشر بينما ينتج بصمت نتائج غير آمنة أو غير دقيقة أو قابلة للاستغلال.