Il contenimento dei guasti è la pratica di progettazione che limita il raggio di esplosione quando un sistema di IA commette un errore, viene manipolato o si comporta in modo imprevedibile. Invece di lasciare che una singola decisione sbagliata si diffonda in un flusso di lavoro, il sistema viene costruito in modo che gli errori si fermino a un confine ristretto e non si propaghino in azioni a rischio più elevato.
Questo è importante nella sicurezza informatica perché un'IA autonoma o che utilizza strumenti può passare dal generare testo al compiere azioni: inviare richieste, modificare registri, attivare script o condividere dati. Se il modello viene ingannato da un prompt injection, confuso da un input ambiguo o semplicemente fallisce in casi limite, i controlli di contenimento aiutano a prevenire danni. Tra le difese comuni ci sono il principio del privilegio minimo, i passaggi di approvazione per le operazioni sensibili, la registrazione delle azioni, i limiti di frequenza, il sandboxing e stati di fallback sicuri. In pratica, il contenimento dei guasti trasforma l'IA da singolo punto di escalation in un componente monitorato con impatto limitato.