Il versionamento del modello è la pratica di tenere traccia di ogni modifica apportata a un modello di machine learning, inclusi i dati di addestramento, i parametri, il codice e la configurazione. Un modello versionato può essere identificato, ripristinato e confrontato con le release precedenti, il che rende il suo comportamento riproducibile invece che misterioso.
Nella sicurezza informatica, il versionamento è importante perché i modelli spesso influenzano il rilevamento delle frodi, il filtro dello spam, la classificazione del malware e le decisioni di accesso. Se un modello inizia a produrre risultati errati, i difensori devono sapere esattamente quale versione ha preso la decisione, quali input ha utilizzato e se un rollback è sicuro. Il versionamento supporta anche le tracce di audit e le indagini sugli incidenti mostrando quando un modello è cambiato e se una nuova release ha introdotto bias, instabilità o una falla di sicurezza. Gli aggressori possono tentare di avvelenare i dati di addestramento o manomettere un aggiornamento del modello; un controllo rigoroso delle versioni, artefatti firmati e registri delle modifiche rendono questi attacchi più facili da rilevare e contenere.