Le tracce di ragionamento sono artefatti intermedi prodotti mentre un sistema di IA lavora per arrivare a una risposta. Possono includere token nascosti della chain-of-thought, stati del blocco note, passaggi di uso degli strumenti o altri output interni che non sono destinati a essere mostrati agli utenti. A differenza della risposta finale, una traccia di ragionamento può rivelare come il modello ha scomposto il compito, applicato le regole o valutato alternative.
Nella sicurezza informatica, le tracce di ragionamento sono importanti perché possono esporre il comportamento sensibile del modello. Gli aggressori possono interrogare ripetutamente un servizio di IA per dedurre la logica decisionale, i filtri di sicurezza o i prompt di sistema, quindi usare tali informazioni per copiare le capacità o eludere le difese. Per i difensori, limitare l'accesso alle tracce, separare il ragionamento interno dall'output visibile all'utente e monitorare modelli di query insoliti sono controlli importanti. Proteggere questi artefatti aiuta a ridurre l'estrazione del modello e impedisce agli aggressori di apprendere come pensa il sistema.