Gli output sono il contenuto che un modello produce dopo essere stato sollecitato o distribuito: testo, codice, immagini, audio o dati strutturati. Nel lavoro di sicurezza, gli output contano perché sono il comportamento visibile del modello e il punto in cui errori, violazioni delle policy o usi malevoli diventano un rischio operativo.
Gli aggressori possono cercare di modellare gli output in messaggi di phishing, codice dannoso, segreti esposti o istruzioni che aggirano le policy. I difensori esaminano gli output per rilevare allucinazioni, esposizione di dati, contenuti tossici e segnali di prompt injection o jailbreak. Il filtraggio degli output, la revisione umana, la registrazione dei log e i controlli di provenienza aiutano a ridurre gli abusi e a verificare se un sistema sta generando materiale sicuro e autorizzato.