La generalizzabilità è la capacità di un modello di continuare a funzionare quando le condizioni cambiano. Nei sistemi di IA, significa che il modello continua a rendere bene tra pazienti, organizzazioni, lingue, dispositivi o stili di documentazione diversi, invece di adattarsi solo ai dati su cui è stato addestrato. Un modello con scarsa generalizzabilità può sembrare accurato nei test ma fallire nell’uso reale, perché l’input del mondo reale è più disordinato, rumoroso o distribuito in modo diverso.
Nella sicurezza informatica, la generalizzabilità è importante per filtri anti-phishing, rilevatori di malware, modelli antifrode e strumenti di rilevamento delle anomalie. Gli attaccanti spesso cercano di eludere il rilevamento modificando il testo, la struttura dei file, i modelli di traffico o l’infrastruttura, quindi un modello fragile può essere aggirato facilmente. I difensori migliorano la generalizzabilità addestrando su dati diversi, testando condizioni mutate, monitorando le prestazioni in tempo reale e riaddestrando quando il comportamento cambia. Nell’IA per la sanità, la stessa idea influisce sul fatto che un sistema funzioni tra gruppi di pazienti e pratiche di compilazione delle cartelle cliniche, ed è per questo che è legata alla sicurezza e al bias.