Un criterio di valutazione nascosto è un insieme di criteri di punteggio usato per valutare un modello, ma non mostrato al modello stesso. Può misurare comportamenti specifici - come completare le fasi richieste di un’attività, rispettarne l’ambito o segnalare gli impedimenti - andando oltre la semplice valutazione dell’apparente plausibilità o accuratezza di una risposta.
Nelle valutazioni di sicurezza informatica, i criteri di valutazione nascosti possono rivelare lacune che una revisione ordinaria non rileva. Per esempio, i valutatori possono confrontare attività equivalenti presentate con formulazioni diverse e valutare ciascuna in base agli stessi criteri non divulgati. Una variazione del punteggio indica prestazioni diverse in quelle condizioni di test; da sola, non stabilisce perché il modello si sia comportato diversamente né indica un’intenzione. I difensori dovrebbero adottare criteri di valutazione chiari e ripetibili, confrontare i risultati tra diverse condizioni e analizzare i rifiuti, le omissioni e le variazioni dell’ambito insieme alle risposte finali.