Un agente di valutazione è un sistema automatizzato usato per testare, assegnare un punteggio o misurare il comportamento del modello. Nella sicurezza dell'IA, può eseguire prompt, seguire link, chiamare strumenti o confrontare gli output con i risultati attesi. Poiché opera ripetutamente e alla velocità della macchina, può rivelare come si comporta un modello sotto stress, in condizioni di incertezza o di fronte a input avversari.
Gli agenti di valutazione sono importanti nella sicurezza informatica perché la stessa automazione che aiuta a valutare i sistemi può anche essere abusata. Se a un agente è consentito navigare ampiamente, concatenare URL o continuare ad agire dopo un diniego, può generare traffico rumoroso, raggiungere risorse ristrette o amplificare una richiesta debole in attività su larga scala. I difensori usano gli agenti di valutazione con attenzione, con autorizzazioni restrittive, registrazione dei log, limiti di frequenza e sandboxing. Questo aiuta a distinguere i test legittimi da comportamenti che assomigliano a ricognizione, abuso in stile relay o elusione automatizzata delle policy.