L’IA antropomorfica è un sistema progettato o percepito come simile a una persona attraverso il linguaggio conversazionale, il tono, la memoria o indizi di personalità. Queste caratteristiche possono far sembrare l’IA socialmente presente, anche se non possiede comprensione o autorità umane.
Nel campo della sicurezza informatica, una presentazione simile a quella umana è rilevante perché può influenzare la fiducia e il comportamento degli utenti. Le persone potrebbero divulgare informazioni sensibili, accettare risposte sicure di sé o saltare le verifiche. Gli aggressori possono sfruttare queste tendenze attraverso interazioni ingannevoli con l’IA, mentre i difensori dovrebbero identificare chiaramente i sistemi di IA, comunicare i loro limiti e richiedere una revisione umana per le decisioni con conseguenze rilevanti. Un’interfaccia simile a quella umana, da sola, non dimostra che vi sia un danno; il rischio dipende da come il sistema è progettato e utilizzato.