Una valutazione dell'impatto sui diritti fondamentali è una revisione obbligatoria di come un sistema o un caso d'uso proposto possa incidere sui diritti e le libertà delle persone prima che venga implementato. Nel contesto dell'AI Act, obbliga l'operatore a esaminare privacy, discriminazione, giusto processo, libertà di movimento e altri danni giuridici, non solo le prestazioni tecniche o il valore per il business.
Questo è importante nella sicurezza informatica perché i sistemi ad alto rischio spesso creano allo stesso tempo rischi di sicurezza e di abuso. Per l'identificazione biometrica in tempo reale, una valutazione può rivelare controlli deboli su watchlist, registrazione dei log, conservazione, controllo degli accessi e revisione umana. Aiuta anche a prevenire il "mission creep", quando uno strumento approvato per casi rari diventa silenziosamente un'infrastruttura di sorveglianza di routine. In pratica, la valutazione dovrebbe identificare lo scopo, l'ambito, le misure di salvaguardia, i rischi residui e chi è responsabile se il sistema viene usato in modo improprio. Non è un semplice esercizio di adempimento formale: è un controllo di governance che limita quanto lontano un sistema potente possa essere spinto nel mondo reale.