Un modello di diffusione è un sistema di IA generativa che crea output partendo dal rumore e rifinendolo attraverso molti passaggi iterativi di denoising. Invece di produrre il risultato finale in un unico passaggio, si avvicina gradualmente a un'immagine, a un testo o a un altro tipo di dati coerente. Questo fa sì che il suo tempo di esecuzione e la sua qualità dipendano fortemente dal numero di passaggi utilizzati.
Nella sicurezza informatica, i modelli di diffusione sono importanti perché possono essere usati per generare contenuti realistici sia per l'attacco sia per la difesa. Gli attaccanti possono usarli per produrre in massa testi di phishing convincenti, identità sintetiche o contenuti multimediali evasivi. I difensori possono usarli per la generazione di contenuti, l'aumento dei dati o la simulazione, soprattutto quando la privacy o l'implementazione locale sono importanti. Il loro processo passo dopo passo crea anche compromessi operativi: più passaggi possono significare output migliore ma maggiore latenza, costi più elevati e una superficie più ampia per il monitoraggio o il rilevamento degli abusi.