La provenienza del contesto è la pratica di tracciare da dove provengono gli input dell'IA e quanto siano affidabili prima che tali input vengano mescolati nel contesto di lavoro di un modello. In un sistema di IA, non tutto il testo dovrebbe essere trattato allo stesso modo: un messaggio dell'utente, un documento recuperato, un file fornito da un connettore e un'istruzione di sistema possono tutti entrare nella stessa catena di prompt, ma portano diversi livelli di autorità.
Questo è importante perché il prompt injection e altre tecniche di abuso spesso si basano sul fatto che contenuti non attendibili vengano scambiati per indicazioni legittime. Se istruzioni nascoste o offuscate raggiungono il modello senza una chiara provenienza, una misura di protezione potrebbe non riuscire a distinguere i dati dai comandi. I difensori usano la provenienza per etichettare le origini, separare le istruzioni dai contenuti recuperati, limitare l'accesso agli strumenti e registrare quali input hanno influenzato una decisione. In pratica, una provenienza solida riduce la possibilità che un assistente segua istruzioni malevole o esponga dati per conto di un aggressore.