Il livello di recupero è la parte di un sistema di IA che cerca e recupera contenuti esterni prima che il modello generi una risposta. Nei sistemi con recupero aumentato, può prelevare documenti da database, pagine web, file di policy o altre fonti indicizzate, quindi passare il materiale selezionato al modello linguistico come contesto. Questo livello è importante perché determina quali informazioni il modello può "vedere" e quindi quali è probabile che ripeta, riassuma o enfatizzi.
In sicurezza informatica, il livello di recupero è un importante confine di integrità. Se un attaccante può avvelenare i dati di origine, manipolare il ranking o iniettare istruzioni nascoste nel testo recuperato, la risposta finale può risultare alterata o controllata senza che il modello stesso sia compromesso. I difensori monitorano questo livello per l'iniezione di prompt, l'avvelenamento delle fonti e il filtraggio disomogeneo, soprattutto in usi ad alto rischio come elezioni, help desk e ricerca interna. L'audit dei contenuti recuperati, la registrazione della selezione delle fonti e la separazione delle istruzioni dai dati aiutano a ridurre gli abusi.