L’affidamento dell’utente è il grado in cui una persona si fida ragionevolmente della risposta di un sistema e agisce sulla sua base. Nella sicurezza informatica e nella governance dell’IA è importante perché la risposta di un sistema può influenzare le decisioni anche quando viene generata automaticamente, anziché essere redatta o approvata da una persona.
In pratica, l’affidamento può verificarsi quando un cliente considera la risposta sicura e convincente di un chatbot dall’aspetto ufficiale come un’indicazione aziendale, una raccomandazione di prodotto o un impegno. Un output fuorviante o inesatto può quindi influenzare le scelte dell’utente e creare rischi legali o di conformità. Le organizzazioni possono ridurre i rischi definendo limiti chiari alle risposte che i sistemi possono fornire, individuando i casi in cui è necessaria una revisione umana e registrando le interazioni che potrebbero influenzare decisioni importanti.