La convalida comportamentale è la pratica di testare se un modello, un sistema o un controllo di sicurezza continua a comportarsi come previsto dopo una modifica. La modifica può essere un aggiornamento software, un riaddestramento del modello, una modifica della configurazione o un aggiornamento di una dipendenza. Invece di verificare solo che il sistema si avvii correttamente, i team confrontano output, decisioni e modalità di errore prima e dopo la modifica.
Nella sicurezza informatica, la convalida comportamentale è importante perché piccoli cambiamenti possono compromettere i rilevamenti, alterare il punteggio di rischio o modificare il modo in cui un assistente AI riassume, filtra o approva le informazioni. Gli aggressori possono sfruttare modifiche non testate aspettando che i difensori aggiornino gli strumenti con regressioni nascoste. I difensori usano la convalida per individuare la deriva, confermare che gli avvisi continuino a scattare e garantire che l'automazione non diventi meno accurata o più permissiva. Nei flussi di lavoro AI, aiuta a verificare che gli aggiornamenti del modello soddisfino ancora i requisiti di affidabilità e sicurezza.