L'Intelligenza Artificiale (AI) si riferisce a tecniche software che eseguono compiti solitamente associati al giudizio umano, come la classificazione, la previsione, il supporto alle decisioni o la generazione del linguaggio. Nelle operazioni di sicurezza, l'AI può aiutare gli analisti a smistare gli avvisi, rilevare anomalie, riassumere i log e automatizzare attività ripetitive. È importante perché questi sistemi possono elaborare più dati degli esseri umani, ma ereditano anche rischi dai loro dati, dalla configurazione e dagli utenti.
Nella cyber security, l'AI appare sia negli attacchi sia nelle difese. I difensori usano il machine learning per individuare il phishing, il comportamento dei malware e i pattern di accesso sospetti. Gli attaccanti possono usare l'AI generativa per creare messaggi di phishing convincenti, supportare l'ingegneria sociale o sondare i sistemi alla ricerca di punti deboli. I sistemi di AI possono anche essere attaccati direttamente tramite prompt injection, data poisoning o input manipolati che causano output non sicuri o errati. Per questo motivo, un uso sicuro dell'AI richiede revisione umana, controlli di accesso, logging e test dei modi di guasto, non solo modelli accurati.