L’attribuzione delle caratteristiche stima quali parti di un input - come parole, regioni di un’immagine o segnali misurati - hanno contribuito all’output di un modello. A seconda del metodo, può assegnare a ciascuna caratteristica un punteggio di importanza o evidenziare le parti influenti dell’input. Questi risultati sono stime, non necessariamente una registrazione completa o esatta del processo decisionale del modello.
Nella sicurezza informatica, l’attribuzione può aiutare gli analisti a esaminare perché un sistema ha segnalato un messaggio, classificato un’attività o assegnato priorità a un avviso, rendendo più facile contestare errori e schemi sospetti. Può anche supportare le verifiche delle decisioni automatizzate. Considerate l’attribuzione come un elemento da esaminare, non come prova che il modello abbia ragionato nel modo suggerito dalla spiegazione: conservate l’input, la versione del modello, l’output e i risultati dell’attribuzione, e verificate in modo indipendente i risultati importanti.