L'esfiltrazione abilitata dall'IA consiste nel trasferimento di dati al di fuori dei canali approvati dopo che un sistema di IA è stato manipolato per indurlo a compiere un'azione. Invece di introdursi direttamente in un sistema, un aggressore può usare istruzioni appositamente formulate o contenuti ostili elaborati dall'IA per indirizzare un agente verso uno strumento disponibile, come la posta elettronica, un browser o un connettore dati.
Questo è importante quando un sistema di IA può accedere a informazioni sensibili e agire su di esse. Le misure di difesa includono la limitazione delle autorizzazioni, la richiesta di un'approvazione esplicita per i trasferimenti sensibili e il monitoraggio dell'uso degli strumenti e del movimento dei dati. Considerare non attendibili i contenuti esterni e convalidare le azioni prima di eseguirle può inoltre ridurre il rischio. Il termine descrive un possibile comportamento d'attacco; di per sé non dimostra che si sia verificato il furto di dati in un caso specifico.