La governance degli algoritmi è l'insieme di supervisione, policy e controlli di revisione che rendono responsabili le decisioni automatizzate. Comprende chi può distribuire un modello, quali dati può usare, con quale frequenza viene testato e in che modo le persone possono rivederne o sovrascriverne l'output. In pratica, trasforma un sistema di scoring da una scatola nera a un processo aziendale controllato.
Nella sicurezza informatica, la governance degli algoritmi è importante perché i sistemi automatizzati possono essere manipolati, configurati in modo errato o alimentati con dati scadenti. Una governance debole può consentire a input malevoli, modifiche non autorizzate del modello o logiche nascoste di influire su accessi, prezzi, controlli antifrode o decisioni di idoneità. I difensori usano workflow di approvazione, controllo delle versioni, log di audit, restrizioni di accesso, test di convalida e percorsi di contestazione umana per ridurre questo rischio. Una buona governance aiuta anche a dimostrare che una decisione era spiegabile, tracciabile e difendibile durante una revisione normativa.