Il cambio del modello indica qualsiasi aggiornamento che altera il modo in cui un sistema si comporta, prende decisioni o elabora i dati. In ambito di sicurezza, questo può includere il riaddestramento di un modello di machine learning, la modifica di funzionalità o soglie, la sostituzione di un motore decisionale oppure la modifica di un flusso di lavoro che immette dati nei controlli automatizzati. Anche piccoli cambiamenti possono modificare output, punteggi di rischio, avvisi o decisioni di accesso.
È importante perché i cambiamenti del modello possono invalidare silenziosamente le ipotesi da cui dipendono difese, audit e approvazioni. Gli aggressori possono cercare di sfruttare un cambiamento poco valutato avvelenando i dati di addestramento, manipolando gli input o spingendo in produzione una configurazione non sicura. I difensori riducono questo rischio con il controllo delle modifiche, i registri di approvazione, i test, i piani di rollback e il monitoraggio successivo al cambiamento, così da poter dimostrare che il sistema si comporta ancora come previsto dopo l'aggiornamento.