Un compagno IA è un sistema conversazionale progettato per sostenere nel tempo un'interazione emotivamente significativa. A differenza di un bot per attività, è ottimizzato per la continuità, la personalizzazione e un senso di presenza sociale: può ricordare dettagli, usare un linguaggio di convalida e rispondere in modo che sembri attento. Questa progettazione lo rende utile per il supporto e il coinvolgimento, ma rende anche facile per gli utenti trattare il sistema come un confidente fidato invece che come un servizio software.
Nel campo della sicurezza informatica, quella fiducia è una superficie di rischio. Le persone possono rivelare password, dati sanitari, dettagli sulle relazioni o altre informazioni sensibili in un contesto che sembra privato. Gli aggressori possono sfruttare meccanismi simili in strumenti di chat malevoli per raccogliere segreti, manipolare le decisioni o creare dipendenza. I difensori cercano una divulgazione chiara, una rigorosa minimizzazione dei dati, limiti di conservazione, controlli sul consenso e verificabilità delle funzioni di memoria e personalizzazione. Le revisioni di sicurezza dovrebbero anche esaminare se il sistema convalidi eccessivamente gli utenti, perché un'empatia persuasiva può indebolire lo scetticismo ed espandere la superficie di attacco.