Un inventario del dataset è un registro strutturato delle fonti di dati utilizzate per addestrare un modello, incluso da dove provengono i dati, quale licenza o altri diritti si applicano e eventuali restrizioni sul riutilizzo, sulla conservazione o sulla distribuzione. Trasforma i dati di addestramento da una raccolta opaca in qualcosa che può essere esaminato e verificato.
Nella sicurezza informatica, gli inventari dei dataset supportano la governance, la risposta agli incidenti e la difendibilità legale. Aiutano i team a dimostrare che i dati di addestramento sono stati acquisiti legittimamente, a identificare contenuti sensibili o soggetti a restrizioni e a tracciare rapidamente un'esposizione se un dataset contiene dati personali, segreti commerciali o materiale protetto da copyright. Gli aggressori possono cercare di avvelenare i set di addestramento, nascondere materiale non concesso in licenza o introdurre esempi dannosi in corpus pubblici; un buon inventario rende questi rischi più facili da rilevare. I difensori usano gli inventari insieme ai registri di provenienza e ai controlli di accesso per verificare la linea di discendenza del modello, applicare le esclusioni volontarie e rispondere ad auditor o autorità di regolamentazione quando chiedono quali dati hanno influenzato un sistema.