Retrieval-Augmented Generation, o RAG, è un pattern di progettazione AI che risponde a un prompt recuperando prima contenuti esterni da un indice di ricerca, un database, un archivio documentale o un'API, quindi usando quel materiale per generare la risposta finale. Invece di basarsi solo sulla conoscenza addestrata del modello, RAG aggiunge una pipeline di recupero che fornisce contesto aggiornato o privato.
Questo è importante nella sicurezza informatica perché il livello di recupero diventa parte della superficie di attacco. Se un attaccante può compromettere i documenti indicizzati, inserire istruzioni malevole, esporre file sensibili o abusare di connettori troppo ampi, il modello può ripetere dati trapelati o seguire contenuti non attendibili. I difensori trattano i dati recuperati come non attendibili: usano liste di autorizzazione delle origini, controllo degli accessi, verifiche di provenienza, filtraggio dei contenuti, limiti di recupero e monitoraggio di query insolite o modifiche all'indice. In pratica, la sicurezza di RAG consiste nel proteggere il percorso dei dati prima che il modello li veda.