I criteri qualitativi sono fattori non numerici utilizzati per valutare il contesto, il probabile impatto e la gravità. Nell’ambito di una valutazione dei rischi dell’IA, aiutano i team a considerare questioni che un punteggio o un benchmark potrebbero non cogliere, come chi potrebbe essere coinvolto, se una decisione è spiegabile e se un sistema potrebbe contribuire alla discriminazione o compromettere la privacy.
Nella cybersicurezza e nella governance dell’IA, questi criteri integrano i test quantitativi anziché sostituirli. Un team di valutazione può usarli per analizzare i rischi di un sistema nel contesto per cui è previsto, documentare le criticità e giudicare quali rischi permangono dopo l’applicazione delle misure di protezione. Per esempio, i soli dati sull’accuratezza di un modello potrebbero non mostrare in che modo il suo impiego in un flusso di lavoro clinico potrebbe influire su diversi gruppi di pazienti.