Il token-biasing è una tecnica di generazione che sposta leggermente la distribuzione di probabilità di un modello verso determinate scelte di parole. Invece di inserire un marcatore visibile nel testo, il sistema spinge il modello a preferire alcuni token rispetto ad altri, producendo un modello statistico nascosto. Nel watermarking testuale dell'IA, quel modello può poi essere verificato da un rilevatore per stimare se il contenuto provenga dal modello.
Questo è importante nella sicurezza informatica perché il token-biasing può supportare la provenienza dei contenuti, aiutare a individuare spam o campagne di influenza sintetica e segnalare nei flussi di moderazione testi probabilmente scritti da una macchina. Ma non è una prova di verità o di intento, e può essere fragile: parafrasi, traduzione, sintesi o rigenerazione da parte di un altro modello possono indebolire o rimuovere il segnale. I difensori devono quindi adottare calibrazione, registrazione dei log e regole di policy che trattino una corrispondenza del watermark come un indicatore, non come un verdetto finale. Anche gli attaccanti possono usare la riscrittura per ridurre il rilevamento, rendendo la robustezza una preoccupazione centrale per la sicurezza.