Un’azione con conseguenze è un’operazione che modifica lo stato di un sistema o ha effetti su qualcuno al suo esterno, per esempio modificare o eliminare dati, inviare un messaggio, cambiare le impostazioni di un account o trasferire denaro. A differenza della consultazione di informazioni o della preparazione di un suggerimento, eseguire un’azione del genere può avere effetti duraturi.
In ambito di sicurezza informatica, le azioni con conseguenze richiedono misure di protezione perché errori, abusi o istruzioni malevole contenute nei contenuti letti da un agente di intelligenza artificiale potrebbero causare esiti indesiderati. Le difese includono la limitazione delle autorizzazioni dell’agente, la richiesta di un’approvazione esplicita dell’utente prima dell’esecuzione e la registrazione delle azioni nei log di audit. Per esempio, un agente potrebbe preparare autonomamente un’email, ma chiedere conferma prima di inviarla o effettuare un pagamento.