I sistemi generativi sono strumenti di IA che producono nuovo testo, immagini, audio, codice o altri media imparando schemi da grandi dati di addestramento. Non si limitano a recuperare risposte memorizzate; generano output che possono sembrare originali, fluidi e consapevoli del contesto. Nella sicurezza informatica, questo li rende potenti e rischiosi: la stessa tecnologia può scrivere email, riscrivere affermazioni, imitare un tono o creare asset falsi realistici.
Gli attaccanti usano i sistemi generativi per scalare il phishing, scrivere esche di social engineering convincenti, generare recensioni false o produrre voci e immagini sintetiche per l'impersonificazione. I difensori li usano per la sintesi dei log, il triage degli alert, la stesura della risposta agli incidenti e l'analisi dei contenuti, ma devono verificare gli output perché possono allucinare o amplificare falsità. Quando si monitora la reputazione online o gli abusi, i sistemi generativi sono importanti perché possono ripetere e riproporre materiale negativo, rendendo le narrazioni dannose più facili da far emergere e più difficili da correggere.