Il machine unlearning è un insieme di tecniche che riducono o rimuovono l'influenza di specifici dati di addestramento da un modello di IA già addestrato. Invece di riaddestrare da zero, i difensori cercano di far sì che il modello si comporti come se certi record non fossero mai stati usati, o almeno fossero molto meno influenti. Questo è importante perché i dati possono essere eliminati da un database pur lasciando tracce nei pesi del modello, negli embedding, nei checkpoint o nei fine-tune.
In ambito di sicurezza informatica, il machine unlearning è importante per la privacy, la conformità e la risposta agli incidenti. Aiuta le organizzazioni a gestire le richieste di cancellazione e a limitare i danni se dati sensibili sono stati ingeriti durante l'addestramento. I team di sicurezza valutano l'unlearning con benchmark e test di attacco, come gli attacchi di membership inference, per verificare se il modello riveli ancora la presenza di un record. Un buon unlearning è di solito affiancato da data lineage, controlli di retention e record di addestramento versionati, così che le modifiche possano essere verificate.