Il fallback umano è un pattern di controllo che invia azioni incerte, rischiose o ad alto impatto a una persona prima che il sistema proceda. Nei flussi di lavoro guidati dall'IA, è il punto in cui l'automazione si ferma e inizia la revisione. L'obiettivo non è bloccare l'automazione, ma mantenere il giudizio dove le conseguenze sono più difficili da invertire.
Nel cybersecurity, il fallback umano è importante perché gli agenti e gli strumenti automatizzati possono interpretare male il contesto, eccedere nei permessi o compiere azioni non sicure alla velocità della macchina. Un progetto sicuro usa il fallback per eventi come modifiche dei privilegi, scritture nei repository, approvazioni di deployment, passaggi di pagamento o risposte ad avvisi ambigui. I difensori lo usano anche per verificare output sospetti, confermare rilevamenti e prevenire modifiche accidentali o malevole. Senza un fallback umano, un attaccante che manipola un flusso di lavoro AI può essere in grado di trasformare un piccolo prompt o un falso segnale in un'azione non autorizzata.