I dati di addestramento sono le informazioni che un sistema di IA usa per imparare schemi, relazioni e risultati che potrà poi applicare a nuovi input. Possono includere testo, immagini, log, codice, ticket o conoscenze dei dipendenti, a seconda dello scopo del modello. La qualità, la copertura e l'etichettatura di questi dati influenzano fortemente quanto il modello diventa utile e affidabile.
Nel cyber security, i dati di addestramento sono importanti perché possono contenere informazioni sensibili o regolamentate e perché dati errati possono compromettere la fiducia nel modello. Se gli aggressori riescono a inserire esempi fuorvianti, possono causare avvelenamento dei dati e indirizzare il sistema verso comportamenti non sicuri o non corretti. Se i difensori addestrano il modello su dati incompleti, distorti o gestiti in modo inadeguato, esso può non rilevare le minacce o ripetere errori operativi. I team di sicurezza quindi monitorano la provenienza dei dati, il controllo degli accessi, la conservazione e il consenso, e spesso separano gli input operativi quotidiani dai dati usati per l'addestramento del modello. Una buona governance dei dati di addestramento aiuta a proteggere la riservatezza, ridurre le perdite di dati e migliorare l'accuratezza del rilevamento.