Un modello downstream è un componente IA successivo in una pipeline di elaborazione che riceve contenuti dopo una precedente fase di screening o trasformazione. In pratica, un modello può prima filtrare, classificare o redigere l'input, e un secondo modello può poi riassumerlo, rispondere a domande al riguardo o usarlo per attivare strumenti.
Nella sicurezza informatica, i modelli downstream sono importanti perché gli aggressori possono nascondere istruzioni malevole in un testo che sembra innocuo al primo livello ma che diventa comunque significativo per quello successivo. Questo crea un rischio di prompt injection: il controllo front-end può sembrare superato, mentre il modello downstream ricostruisce e segue la richiesta nascosta. I difensori riducono questo rischio trattando i contenuti esterni come non attendibili, delimitando chiaramente i confini delle istruzioni, limitando l'accesso agli strumenti e richiedendo conferma per le azioni sensibili. La lezione principale è che la sicurezza dipende da ogni fase della pipeline, non solo dal primo filtro.