Il debito di autonomia è il rischio per la sicurezza che si accumula quando l'automazione si espande più rapidamente dei controlli necessari per supervisionarla, correggerla e annullarla. In pratica, i team lasciano che software o agenti di IA assumano più decisioni, ma non aggiungono abbastanza registrazione, passaggi di approvazione, gestione delle eccezioni o percorsi di rollback per eguagliare quel nuovo potere.
Questo è importante nella sicurezza informatica perché un agente con accesso a ticket, account, avvisi o strumenti di produzione può trasformare un piccolo errore in un grande guasto operativo. Negli attacchi, gli avversari possono abusare dell'automazione con privilegi eccessivi, di input avvelenati o di flussi di approvazione deboli per attivare azioni indesiderate su larga scala. Nella difesa, ridurre il debito di autonomia significa limitare l'autorità degli agenti, mantenere gli esseri umani nel ciclo per i passaggi rischiosi, conservare tracce di audit e rendere testabili prima del deployment le procedure di arresto o rollback.