I criteri di disattivazione sono condizioni predefinite che indicano ai difensori quando disabilitare, limitare o ripristinare un sistema, una funzionalità o un insieme di autorizzazioni. Nella sicurezza informatica, agiscono come un interruttore di sicurezza: se i segnali di rischio superano una soglia stabilita, il sistema non è più considerato affidabile per operare a piena capacità.
Per l'IA agentica e altri servizi automatizzati, i criteri di disattivazione possono includere ripetuti tentativi di prompt injection, chiamate a strumenti non sicure, modelli di output anomali, violazioni delle policy o segnali di abuso. Sono importanti perché un sistema di IA con accesso a dati, flussi di lavoro o strumenti esterni può trasformare un errore in un impatto reale. Criteri ben progettati favoriscono un rapido contenimento, la revisione umana, la registrazione dei log e una risposta con privilegi minimi. Gli aggressori possono cercare di restare al di sotto di queste soglie, mentre i difensori le usano per fermare l'escalation prima che il danno si diffonda.