Un benchmark clinico è un set di test standardizzato o una suite di attività usata per misurare se un sistema di IA medica funziona in modo sicuro e accurato nel lavoro sanitario reale. Può verificare il supporto alla diagnosi, il triage, la generazione di referti o l'interpretazione delle immagini confrontandoli con riferimenti clinici verificati e risultati attesi.
In ambito di sicurezza informatica, i benchmark clinici sono importanti perché aiutano a rilevare quando un modello è stato alterato, avvelenato, configurato in modo errato o degradato dopo la distribuzione. Se un attaccante modifica i dati di addestramento, inserisce prompt malevoli o indebolisce un aggiornamento del modello, i risultati del benchmark possono rivelare cali insoliti di accuratezza, consigli non sicuri o comportamenti incoerenti. I difensori li usano nella validazione pre-rilascio, nei test di regressione e nel monitoraggio post-distribuzione per dimostrare che il sistema soddisfa ancora le soglie di sicurezza. Un benchmark debole può nascondere il rischio; uno forte crea una responsabilità misurabile.