Il processo decisionale algoritmico è l'uso di regole software, modelli di machine learning o sistemi di punteggio per produrre o influenzare una scelta. Invece di una persona che decide direttamente, il sistema ordina le opzioni, segnala un rischio, approva un accesso, raccomanda un'azione o assegna una priorità per la revisione. In ambito di sicurezza informatica, questo è comune nel rilevamento delle frodi, nel filtro antispam, nella verifica dell'identità, nella protezione degli endpoint e nel triage della sicurezza.
È importante perché le decisioni automatizzate possono essere rapide e coerenti, ma anche opache e fragili. Gli aggressori possono sfruttare dati di addestramento deboli, avvelenare gli input o manipolare in modo avversario le caratteristiche per modificare l'output di un modello. I difensori hanno bisogno di registrazione, spiegabilità, controlli di accesso, revisione umana per i casi ad alto impatto e monitoraggio di deriva o abuso. Quando un sistema decide chi è affidabile, bloccato o indagato, capire come viene presa quella decisione diventa parte della sicurezza stessa.