La dimenticanza catastrofica è la perdita di conoscenze apprese in precedenza quando un modello viene addestrato su nuovi compiti o su nuovi dati. Nell'apprendimento automatico, questo accade di solito in contesti di apprendimento sequenziale o continuo, in cui ogni aggiornamento può sovrascrivere i modelli precedenti invece di aggiungerli. Il risultato è che un sistema migliora nel compito più recente mentre degrada silenziosamente in quelli più vecchi.
Nella sicurezza informatica, questo è importante per modelli a lunga durata come il rilevamento delle intrusioni, la classificazione del malware e gli strumenti di supporto agli analisti che devono adattarsi all'evoluzione delle minacce. Se un difensore riaddestra il modello in modo troppo aggressivo, esso può dimenticare vecchie firme di attacco, tattiche o il comportamento normale di riferimento, creando punti ciechi. Anche gli aggressori possono sfruttare questa debolezza alimentando nel tempo il sistema con dati distorti o rumorosi, spingendolo verso prestazioni future scadenti. Le difese comuni includono buffer di replay, regolarizzazione e metodi di consolidamento che preservano le conoscenze importanti consentendo al tempo stesso gli aggiornamenti.