Il decoding è la fase di generazione che trasforma i punteggi di probabilità di un modello in testo effettivo. Dopo che un language model prevede i possibili token successivi, il metodo di decoding sceglie quale token emettere e quanta casualità consentire. Le strategie comuni includono il greedy decoding, la beam search, il top-k, il top-p e il campionamento basato sulla temperatura.
Questo è importante nella sicurezza informatica perché il decoding modifica sia la qualità dell'output sia il rischio. Un decoding con bassa casualità può rendere gli strumenti di sicurezza più deterministici, ripetibili e facili da verificare, mentre un decoding con maggiore casualità può produrre testo più vario. Gli attaccanti possono usare il sampling per produrre in massa messaggi di phishing diversi, script di social engineering o varianti di esche. I difensori possono regolare il decoding per ridurre le allucinazioni, testare la robustezza dei prompt o confrontare più campioni per individuare comportamenti del modello ripetitivi o non sicuri.