Un'azione agentica è un'operazione che un assistente IA esegue oltre alla generazione di testo, come interrogare un'API, recuperare un file, modificare un record o avviare un flusso di lavoro. Viene eseguita tramite uno strumento o un sistema collegato, di solito in risposta al piano dell'assistente o a una richiesta dell'utente.
Queste azioni sono importanti perché possono consentire l'accesso a dati sensibili o causare cambiamenti nel mondo reale. In un sistema con generazione aumentata dal recupero, il permesso di rispondere a una domanda non concede automaticamente il permesso di chiamare strumenti o modificare risorse. I responsabili della difesa dovrebbero autorizzare ogni azione separatamente, applicare il principio del privilegio minimo, verificare gli input e l'identità dell'utente e registrare ciò a cui è stato effettuato l'accesso o ciò che è stato modificato. Questi controlli aiutano a impedire che un assistente trasformi un accesso eccessivo o istruzioni non sicure in operazioni non autorizzate.