I segnali di intenzione sono indizi comportamentali che aiutano i team di sicurezza a inferire cosa un utente stia cercando di fare nel corso di più interazioni, piuttosto che da un singolo messaggio o evento. Nel monitoraggio degli abusi dell'IA, possono includere richieste ripetute, un perfezionamento graduale di un argomento, formulazioni evasive o il passaggio tra domande apparentemente innocue e altre più specifiche e dannose. Poiché un singolo prompt può sembrare benigno se considerato da solo, i segnali di intenzione aiutano i difensori a comprendere il modello che sta dietro all'attività.
Questo è importante nella sicurezza informatica e nella difesa delle piattaforme perché molti casi di abuso si sviluppano nel tempo. Gli aggressori possono suddividere un obiettivo dannoso in piccoli passaggi, usare più account oppure chiedere “ricerca” e poi spostarsi verso dettagli operativi. I difensori cercano questi segnali nei log, nella cronologia delle sessioni, nei dati di reputazione e nelle revisioni dei contenuti, quindi li combinano con regole di policy o punteggi di rischio. Un buon rilevamento è accurato: riduce i falsi positivi pur intercettando abusi coordinati, frodi, attacchi alle credenziali o richieste a duplice uso che nascondono un intento malevolo.