L'IA generativa si riferisce a sistemi che creano nuovi testi, immagini, audio, codice o altri contenuti imparando schemi da grandi dataset. A differenza del software tradizionale, che segue regole fisse, la GenAI può produrre output dall'aspetto originale in risposta a prompt, il che la rende utile per redigere, riassumere, tradurre e automatizzare attività di supporto.
Nella sicurezza informatica, la GenAI è importante perché può aiutare sia i difensori sia gli aggressori. I team di sicurezza la usano per riassumere gli alert, analizzare i log e velocizzare la risposta agli incidenti. Gli aggressori possono usarla per scrivere email di phishing convincenti, generare messaggi o voci false e automatizzare il social engineering su larga scala. La GenAI introduce anche rischi all'interno delle organizzazioni: gli utenti possono incollare dati sensibili negli strumenti di chat, collegare i modelli ai sistemi interni senza supervisione oppure fidarsi dei contenuti generati senza verificarli. Le difese si concentrano su controllo degli accessi, registrazione dei prompt, revisione dell'output, regole per la gestione dei dati e monitoraggio delle integrazioni di terze parti.