Una valutazione dell'impatto etico è una revisione strutturata di come un sistema di IA possa influire su diritti, equità, sicurezza e società più ampia prima di essere implementato. Pone domande pratiche: chi potrebbe subire danni, quali gruppi potrebbero essere svantaggiati, quali dati vengono utilizzati e se le persone possono comprendere, contestare o annullare l'output del sistema.
Nella sicurezza informatica, questo aspetto è importante perché l'IA spesso si inserisce in pipeline di controllo degli accessi, assunzione, monitoraggio, rilevamento delle frodi o filtro dei contenuti. Se il modello è distorto, opaco o facile da manipolare, può generare guasti di sicurezza e fiducia su larga scala: falsi dinieghi, raccomandazioni non sicure, fughe di dati o abusi di decisioni automatizzate. Le valutazioni dell'impatto etico supportano i difensori imponendo registrazione dei log, supervisione umana, procedure di fallback e percorsi di escalation prima del rilascio. Sono utili anche contro gli attaccanti, perché evidenziano dove un sistema può essere vulnerabile ad avvelenamento dei dati, abuso dei prompt o esiti discriminatori che indeboliscono la resilienza dell'organizzazione.