La resilienza agli attacchi è la capacità di un sistema di continuare a funzionare in modo sicuro quando affronta input ostili, manipolati o imprevisti. Nella sicurezza informatica, ciò significa che il sistema non perde il controllo, non rivela comportamenti sensibili e non produce output pericolosi solo perché un aggressore cerca di confonderlo o indirizzarlo.
Questo è importante perché molti guasti di sicurezza non sono causati dal fatto che un sistema sia “sbagliato” nell'uso normale, ma dalla pressione avversaria: richieste costruite ad arte, dati avvelenati, prompt injection, pacchetti malformati o interrogazioni ripetute. Un sistema resiliente viene testato come bersaglio, non solo come prodotto. I difensori migliorano la resilienza con la convalida degli input, il filtraggio, i limiti di velocità, il sandboxing, il rafforzamento del modello, il monitoraggio e i controlli di fallback. L'obiettivo non è la perfezione; è mantenere il sistema stabile, prevedibile e sotto il controllo dell'operatore quando qualcuno prova attivamente a romperlo.