La governance degli agenti AI è l'insieme di controlli di sicurezza che limitano ciò a cui il software autonomo può accedere, decidere ed eseguire. Va oltre la sicurezza del modello e si concentra sui poteri reali dell'agente: credenziali, strumenti, API, origini dati e azioni di sistema. Una buona governance usa identità con ambito definito, principio del privilegio minimo, flussi di approvazione, registrazione dei log e revoca rapida, così che un agente possa fare solo ciò che è autorizzato a fare.
Questo è importante perché un agente AI può concatenare più passaggi senza attendere una persona. Se le autorizzazioni sono troppo ampie, una prompt injection, un token rubato o un flusso di lavoro difettoso possono consentire all'agente di leggere dati sensibili, inviare messaggi, creare utenti o modificare sistemi alla velocità della macchina. I difensori usano la governance per censire gli agenti, definire policy per ogni attività, monitorare il comportamento e mantenere tracce di audit per la risposta agli incidenti. Negli attacchi, una governance debole trasforma un'automazione utile in un punto d'appoggio di alto valore; nella difesa, rende i sistemi autonomi osservabili, controllabili e più sicuri da fidare.