La provenienza dei dati di addestramento è il registro di dove provengono gli input del modello, di come sono stati raccolti e di quali trasformazioni sono avvenute prima dell'addestramento. In pratica, risponde a domande come: chi ha fornito i dati, se erano concessi in licenza o autorizzati, se sono stati filtrati e se il dataset può essere riprodotto o sottoposto a audit in seguito?
Nella sicurezza informatica, la provenienza è importante perché le pipeline di addestramento dei modelli rappresentano un confine di fiducia. Una provenienza debole può nascondere dati avvelenati, contenuti rubati, violazioni della privacy o fonti di terze parti compromesse che in seguito influenzano il comportamento del modello. Una provenienza solida supporta la risposta agli incidenti, la conformità e la gestione del rischio dei fornitori, rendendo più facile dimostrare la catena di provenienza e individuare ingestione non autorizzata. I difensori usano inventari dei dati, controlli di accesso, checksum, versionamento dei dataset e flussi di revisione per mantenere le fonti di addestramento tracciabili e affidabili.