Le difese basate sull'IA sono strumenti di sicurezza che usano l'apprendimento automatico o altri metodi di IA per aiutare a rilevare le minacce, dare priorità agli avvisi e supportare la risposta agli incidenti. Possono assegnare un punteggio alle attività sospette, correlare i log provenienti da molte fonti, individuare schemi che gli esseri umani potrebbero non notare e redigere azioni consigliate per gli analisti. In pratica, sono solitamente di supporto piuttosto che completamente autonome, soprattutto in ambienti ad alto rischio.
Questi sistemi sono importanti perché gli attacchi moderni generano troppi dati per una revisione manuale da sola. L'IA può velocizzare il triage e ridurre l'affaticamento da avvisi, ma crea anche nuovi rischi per la sicurezza: gli aggressori possono avvelenare i dati di addestramento, eludere il rilevamento con input costruiti con cura, estrarre il comportamento del modello o abusare di prompt e output sensibili. I difensori trattano quindi il livello di IA come parte del perimetro di sicurezza, con controlli degli accessi, monitoraggio, revisione umana per le decisioni importanti e piani di rollback per le modifiche del modello.