Un agente AI autonomo è un sistema che può decidere cosa fare dopo, richiamare strumenti ed eseguire attività con un intervento umano limitato. A differenza di un semplice chatbot, può leggere dati, interrogare API, scrivere file, attivare flussi di lavoro o interagire con servizi di produzione come parte di un ciclo orientato agli obiettivi.
Nella sicurezza informatica, questo è importante perché le autorizzazioni dell'agente diventano parte della superficie di attacco. Se un attaccante sfrutta l'agente, o se all'agente viene concesso un accesso troppo ampio, un singolo compromesso può esporre segreti, dati interni o sistemi operativi. I difensori riducono il rischio limitando rigorosamente l'ambito dei token, isolando la produzione dal test, registrando l'uso degli strumenti e revocando rapidamente le credenziali. In pratica, la progettazione sicura degli agenti riguarda il controllo di ciò a cui il software può accedere, non solo di ciò che può dire.