Una soglia di confidenza è il limite che un sistema di IA usa per decidere se una previsione è abbastanza valida da essere utilizzata. Il modello può produrre un punteggio o una probabilità per ogni risultato, e tutto ciò che è al di sotto della soglia viene trattato come incerto, ignorato o inviato per una revisione. In un rilevatore di canti di uccelli, per esempio, il sistema potrebbe etichettare una specie solo quando il punteggio è מספיק alto; altrimenti continua ad ascoltare.
Nella sicurezza informatica, le soglie sono importanti perché le decisioni automatizzate possono creare rischio. Una soglia troppo bassa può attivare falsi positivi, mentre una troppo alta può far perdere minacce reali. Gli aggressori possono cercare di sfruttare soglie deboli aggiungendo rumore, falsificando gli input o modellando i dati in modo che il modello superi erroneamente la soglia. I difensori regolano le soglie per bilanciare accuratezza, privacy e sicurezza, ad esempio mettendo in quarantena un file, aprendo un avviso o sbloccando una funzione solo quando la confidenza è מספיק alta.