L'integrità decisionale è la proprietà di sicurezza per cui gli output di un sistema non vengono manipolati in modo improprio. In pratica, significa che un ranking, un punteggio, una raccomandazione o un'approvazione dovrebbero riflettere la logica prevista del sistema, non un'influenza nascosta da parte di un attaccante o un input corrotto. Questo aspetto è importante ogni volta che il software aiuta a prendere decisioni aziendali, soprattutto quando l'output influisce su accesso, assunzioni, pagamenti o valutazione del rischio.
Nella sicurezza informatica, l'integrità decisionale è spesso minacciata da prompt injection, avvelenamento dei dati, regole manomesse o input dell'utente trattato come istruzioni. Ad esempio, uno strumento di screening basato su IA che legge curriculum o trascrizioni di chat può essere spinto verso una raccomandazione errata se il contenuto include direttive che il modello segue invece di ignorare. Tra le difese ci sono il trattamento dei contenuti esterni come non attendibili, la separazione delle istruzioni dai dati, la convalida degli output, la registrazione delle decisioni, la limitazione dell'autorità del modello e la richiesta di revisione umana per le azioni sensibili. L'obiettivo è semplice: l'input esterno non deve poter orientare in modo silenzioso la decisione finale.