Un sistema predittivo è un software che analizza dati storici e in tempo reale per prevedere risultati o raccomandare azioni. Può assegnare un punteggio di rischio, classificare eventi o suggerire i passi successivi a un operatore. Nella sicurezza e nelle operazioni, questi sistemi possono aiutare a dare priorità agli avvisi, prevedere la domanda o rilevare comportamenti insoliti prima che diventino un incidente.
I sistemi predittivi sono importanti nella sicurezza informatica perché dipendono dalla qualità dei dati, dalla logica del modello e da aggiornamenti controllati. Gli aggressori possono cercare di avvelenare i dati di addestramento, manipolare gli input, rubare gli output del modello o abusare delle API esposte per influenzare le decisioni. I difensori riducono questo rischio con il controllo degli accessi, la registrazione, le tracce di audit, modelli versionati, controlli di integrità e la revisione umana delle raccomandazioni ad alto impatto. In pratica, un sistema predittivo è utile solo quando i suoi output rimangono spiegabili, contestabili e difficili da manomettere.