La generazione aumentata dal recupero, o RAG, è un pattern di progettazione dell'IA che recupera informazioni da fonti esterne prima di produrre una risposta. Invece di basarsi solo su ciò che il modello ha appreso durante l'addestramento, il sistema recupera documenti pertinenti, registri o voci di basi di conoscenza e li utilizza come base per l'output finale. Questo di solito migliora pertinenza, freschezza e tracciabilità, soprattutto nei domini in cui l'accuratezza è importante.
Nella sicurezza informatica, il RAG può ridurre le allucinazioni negli strumenti di supporto, negli assistenti alle policy e nei flussi di lavoro di analisi, ma introduce anche nuovi rischi. Se la fonte di recupero è compromessa, obsoleta o troppo ampia, il modello può ripetere indicazioni errate o divulgare contenuti sensibili. Gli attaccanti possono anche usare l'iniezione di prompt all'interno dei documenti indicizzati per influenzare la risposta. Le difese includono fonti di dati curate, controlli di accesso, filtraggio, ranking dei documenti e registrazione, così che i team possano verificare cosa il modello ha recuperato e perché.