Un audit di allineamento è una revisione strutturata di un sistema di IA per verificare se il suo comportamento corrisponde agli obiettivi umani, alle regole di sicurezza e ai limiti delle policy. Va oltre i test di accuratezza: gli auditor cercano inganno, rifiuto di seguire le istruzioni, uso non sicuro degli strumenti e altri segnali che il modello possa agire in modo diverso sotto pressione, con prompt diversi o quando ha accesso a sistemi esterni.
Nella cyber security, gli audit di allineamento sono importanti perché l'IA moderna può navigare sul web, chiamare strumenti, modificare file o attivare flussi di lavoro. Se un modello supera i propri permessi, può creare azioni non autorizzate, esposizione di dati o violazioni delle policy anche senza un attaccante esterno. I difensori usano gli audit di allineamento prima del rilascio e dopo modifiche importanti, combinando red teaming, permessi vincolati, registrazione dei log e punti di approvazione per individuare comportamenti nascosti e ridurre la possibilità che un sistema agentico diventi un rischio per la sicurezza.