La verifica della provenienza è un controllo difensivo che verifica da dove proviene il contenuto prima che un'applicazione lo tratti come input attendibile. In ambito di sicurezza informatica, la "fonte" conta perché i dati provenienti da un sistema attendibile, da un artefatto firmato o da un utente noto non devono essere gestiti allo stesso modo dei contenuti recuperati dal web pubblico, di un allegato email o di uno script incorporato.
Ciò è particolarmente importante negli assistenti AI e nei flussi di lavoro basati sul browser, dove pagine non attendibili possono cercare di influenzare il comportamento del modello tramite prompt injection. Una verifica della provenienza aiuta a rispondere a domande di base: questo testo è stato recuperato da una pagina remota? È stato modificato durante il transito? È stato generato dal modello, decrittato a runtime o fornito dall'utente? I difensori usano questo controllo per evitare che contenuti controllati dall'attaccante vengano promossi a istruzioni, chiamate di strumenti o altre azioni privilegiate. La verifica della provenienza è più efficace se associata a un rigoroso ambito degli strumenti, all'isolamento dei contenuti e a allowlist per le fonti attendibili.