La supervisione del modello è la pratica di esaminare le uscite, il comportamento e le modalità di guasto di un sistema di IA prima di fidarsi delle sue raccomandazioni. Nel contesto della cybersecurity, questo significa verificare se il modello è accurato, distorto, soggetto a allucinazioni o se manca di contesto che un analista umano individuerebbe.
È importante perché i team di sicurezza spesso usano l'IA per smistare gli avvisi, riassumere i log e suggerire azioni. Se queste uscite vengono accettate senza revisione, una raccomandazione errata può sopprimere un incidente reale, eseguire un'escalation dell'account sbagliato o attivare una risposta non necessaria. La supervisione è anche una difesa contro la manipolazione avversaria, in cui gli attaccanti cercano di avvelenare i dati di addestramento, indurre il modello ad azioni non sicure o sfruttarne i punti ciechi. Una supervisione efficace utilizza la revisione umana, test sui casi limite, limiti di accesso e registri di audit, in modo che l'IA rimanga un supporto alle decisioni e non un'autorità incontrollata.