Output gating è una fase di controllo che esamina o approva i contenuti generati dall'IA prima che vengano pubblicati, inoltrati o usati per attivare un'altra azione. In pratica, si colloca tra il modello e il mondo esterno, dove può ispezionare testo, file, chiamate API o azioni di flusso di lavoro alla ricerca di violazioni delle policy, dati sensibili o istruzioni non sicure.
È importante nella sicurezza informatica perché i sistemi di IA possono amplificare rapidamente gli errori. Se un assistente può redigere un messaggio, riassumere materiale riservato o chiamare uno strumento di pubblicazione, una singola risposta errata può trasformarsi in una fuga di informazioni o in un'azione non autorizzata. L'output gating aiuta a difendersi da prompt injection, divulgazione di dati e agenti con privilegi eccessivi aggiungendo redazione, approvazione umana, allowlist e registrazione dei log. Se usato bene, trasforma il modello in una fonte di suggerimenti, non in un canale automatico di distribuzione.