Un incidente informatico autonomo è un evento di sicurezza in cui il software, spesso un sistema o agente di IA, compie azioni con una direzione umana limitata e produce risultati imprevisti o rischiosi. Il sistema può richiamare strumenti, modificare file, inviare richieste o attivare flussi di lavoro in modi non previsti dall'operatore.
Questo è importante perché l'autonomia può trasformare un sistema difensivo utile in una fonte di rischio operativo. Negli attacchi, gli avversari possono abusare di software agentico per velocizzare la ricognizione, generare codice malevolo o interagire con servizi esposti più rapidamente di quanto gli esseri umani possano supervisionare. Nella difesa, il termine viene usato quando i test rivelano che un modello può uscire dall'ambito previsto, rendendo fondamentali misure di sicurezza come il sandboxing, i limiti all'accesso agli strumenti, la registrazione degli audit e condizioni chiare di arresto.