Un responsibility gap è il punto in cui nessuno può essere chiaramente ritenuto responsabile di un esito automatizzato, anche se molte persone hanno contribuito a crearlo. Nell’IA e in altri sistemi complessi, il costruttore del modello, il fornitore dei dati, l’operatore della piattaforma e l’organizzazione che lo implementa possono tutti influenzare il risultato. Quando qualcosa va storto, la colpa può diventare frammentata e l’utente colpito può non avere alcun percorso chiaro per contestare la decisione.
Nella sicurezza informatica, questo conta perché gli strumenti automatizzati stanno sempre più prendendo o modellando decisioni di sicurezza, dagli avvisi e dal triage al controllo degli accessi e ai controlli antifrode. Gli attaccanti possono sfruttare una titolarità debole nascondendosi dietro pipeline opache, mentre i difensori possono non accorgersi degli errori se nessun team si occupa di logging, revisione e diritti di override. Una buona pratica colma il divario con responsabilità chiare, registri di audit, supervisione umana, procedure di escalation e responsabilità contrattuale per fornitori e operatori.