Un sistema agente IA è una configurazione di IA che può pianificare attività e compiere azioni tramite strumenti o servizi, invece di limitarsi a generare testo. Può leggere dati, chiamare API, cercare file, inviare messaggi o attivare flussi di lavoro in base a obiettivi e contesto. Nel campo della cybersicurezza, questo è importante perché il sistema non sta solo producendo output: opera all'interno di un perimetro di fiducia e può apportare cambiamenti reali.
Gli aggressori possono cercare di indirizzare un agente con prompt injection, dati di retrieval contaminati o output di strumenti malevoli, in modo che esegua azioni non intenzionali. Se l'agente dispone di autorizzazioni ampie, una piccola manipolazione può portare a esposizione di dati, richieste fraudolente o automazione non sicura. I difensori riducono questo rischio con il principio del privilegio minimo, approvazione umana per i passaggi sensibili, registrazione dettagliata, convalida degli input e un controllo rigoroso su quali strumenti l'agente può accedere. In pratica, la progettazione sicura di un agente consiste nel limitare ciò che il sistema può vedere, decidere ed eseguire.