Un agente conversazionale è un sistema di IA che usa il linguaggio naturale per interagire con le persone, ponendo domande, raccogliendo informazioni o guidando un utente attraverso un'attività. Nella sicurezza informatica, questi sistemi spesso appaiono come chatbot, assistenti virtuali o strumenti di help desk che possono raccogliere dettagli su incidenti, smistare ticket o guidare gli utenti attraverso le fasi di sicurezza.
La stessa interfaccia può anche essere abusata. Gli aggressori usano agenti conversazionali per l'ingegneria sociale, impersonando il personale di supporto, convincendo le vittime a rivelare credenziali o automatizzando conversazioni di phishing su larga scala. Poiché possono rispondere rapidamente e sembrare naturali, possono ridurre il sospetto del bersaglio. I difensori dovrebbero trattare i sistemi basati su chat come front-end sensibili: verificare l'identità, limitare i dati a cui possono accedere, registrare le interazioni e monitorare prompt injection o altri tentativi di manipolare l'agente affinché divulghi informazioni interne.