La sovrastima della fiducia è una fiducia eccessiva nell'output o nel comportamento di un sistema, anche quando i suoi limiti non sono chiari. Nella sicurezza informatica, si verifica quando le persone considerano uno strumento più accurato, più sicuro o più autorevole di quanto non sia realmente. Questo è particolarmente rischioso con i sistemi di IA, gli avvisi automatizzati e i chatbot, dove risposte fluenti possono nascondere errori, bias o contesto mancante.
Gli attaccanti possono trarre vantaggio dalla sovrastima della fiducia inducendo gli utenti a seguire cattivi consigli, approvare azioni non sicure o divulgare dati sensibili a un sistema che sembra amichevole e affidabile. I difensori riducono questo rischio con limiti chiari, autorizzazioni circoscritte, revisione umana per le decisioni importanti e formazione degli utenti che enfatizzi la verifica. Nella progettazione sicura, l'obiettivo è rendere un sistema utile senza incoraggiare una fiducia cieca nelle sue risposte.