Human on the loop è un modello di supervisione dell'IA in cui una persona non esegue manualmente ogni attività, ma osserva il comportamento del sistema e può intervenire quando qualcosa sembra non andare bene. È comune nei flussi di lavoro dell'IA sensibili alla sicurezza, in cui i modelli possono raccomandare azioni, generare codice, assegnare ticket o richiamare strumenti tramite API.
Questo è importante perché i sistemi di IA possono essere veloci ma imperfetti. Un supervisore umano può approvare azioni ad alto rischio, bloccare output non sicuri e individuare errori causati da prompt injection, dati errati, violazioni delle policy o deriva del modello. In difesa, ciò significa in genere registrazione, avvisi, code di revisione e un chiaro percorso di override o rollback. Negli attacchi, gli avversari cercano di far sì che l'umano si fidi di un risultato fuorviante, quindi una supervisione efficace deve essere esplicita, limitata nel perimetro e facile da interrompere. Human on the loop è un controllo pratico che aiuta i team a usare l'IA mantenendo la responsabilità alle persone.