حزمة تقنيات الذكاء الاصطناعي هي البيئة الكاملة التي تدعم نظام ذكاء اصطناعي، وليس النموذج نفسه فقط. وهي تشمل الأجهزة التي تشغل الاستدلال والتدريب، والخدمات السحابية، والشبكات، وخطوط معالجة البيانات، وأنظمة الوسم والتخزين، وطبقة التطبيق التي يتفاعل معها المستخدمون.
هذا مهم لأن العديد من حالات فشل أمن الذكاء الاصطناعي تحدث خارج أوزان النموذج. قد يستهدف المهاجمون ضوابط الوصول الضعيفة، أو تدفقات البيانات الملوثة، أو واجهات البرمجة غير الآمنة، أو بيانات اعتماد السحابة المخترقة، أو بيئة النشر للتسبب في التسريب، أو حجب الخدمة، أو مخرجات غير آمنة. لذلك يحتاج المدافعون إلى تأمين الحزمة بأكملها من خلال الجرد، والوصول بأقل الصلاحيات، والمراقبة، واختبار كل طبقة. عمليًا، غالبًا ما تركز اختبارات الفريق الأحمر واختبارات حقن الأوامر على طبقة التطبيق، بينما تحمي فحوصات سلسلة التوريد وسلامة البيانات خط الأنابيب السابق. إن التعامل مع الحزمة كنظام واحد يساعد فرق الأمن على فهم كيفية ترابط مخاطر النموذج، ومخاطر البنية التحتية، ومخاطر البيانات.