I media generativi sono audio, video, immagini o testi creati o modificati da un sistema di IA a partire da prompt, file sorgente o esempi. Il risultato può essere completamente sintetico oppure un remix di materiale reale, quindi può sembrare convincente anche quando dettagli chiave sono stati inventati, alterati o estrapolati dal contesto.
Nel campo della sicurezza informatica, i media generativi sono importanti perché possono աջակցare frodi, impersonificazione e social engineering. Gli aggressori possono generare falsi messaggi vocali, screenshot ritoccati o clip modificate per fare pressione sulle vittime, aggirare i controlli di fiducia o diffondere affermazioni false. Anche i difensori li usano per testare gli strumenti di rilevamento, formare gli analisti e simulare campagne di phishing o di disinformazione. I principali controlli sono la provenienza e la revisione: etichettatura, metadati, flussi di lavoro di verifica e controllo umano aiutano a stabilire se il contenuto è autentico, autorizzato e sicuro da riutilizzare.