Il tracciamento è il record di sicurezza e osservabilità del comportamento di un agente AI: i passaggi che ha eseguito, gli strumenti che ha chiamato, gli input che ha usato e le modifiche di stato che ha causato. A differenza di una semplice trascrizione della chat, il tracciamento acquisisce i dettagli di esecuzione che consentono ai difensori di ricostruire ciò che l'agente ha effettivamente fatto, non solo ciò che ha detto che avrebbe fatto.
Il tracciamento è importante perché gli agenti autonomi possono leggere contenuti non attendibili, prendere decisioni e agire su più sistemi. Se un attaccante usa il prompt injection o manipola un'integrazione, i tracciamenti aiutano i team di sicurezza a vedere se l'agente ha semplicemente incontrato dati malevoli, ha tentato un'operazione rischiosa o ha modificato una risorsa. Tracce di qualità supportano la revisione, la risposta agli incidenti, l'applicazione delle policy e il rollback. In pratica, il tracciamento è più efficace quando è resistente alle manomissioni, collegato agli eventi di identità e autorizzazione, e sufficientemente dettagliato da mostrare ogni chiamata agli strumenti e ogni controllo dei permessi.