Un modello opaco è un modello di machine learning i cui dettagli interni, la discendenza di addestramento o la provenienza sono difficili da ispezionare o verificare. I difensori potrebbero non sapere esattamente quali dataset lo abbiano plasmato, quale versione sia in esecuzione, se sia stato modificato o quanto fedelmente corrisponda all'artefatto approvato. Questa mancanza di visibilità rende più difficile valutare il rischio, riprodurre il comportamento o dimostrare l'integrità.
I modelli opachi sono importanti nella sicurezza informatica perché gli attaccanti possono nascondere modifiche malevole, introdurre modelli non verificati o sfruttare lacune nella fiducia e nella governance. In difesa, i team usano inventari come AI-BOM, firme dei modelli e registri di provenienza per ridurre l'opacità e rilevare manomissioni o distribuzioni ombra. Tuttavia, la sola documentazione non prova che un modello sia sicuro: un modello opaco può essere firmato, etichettato o confezionato in modo ordinato pur rimanendo difficile da verificare. La sicurezza migliora quando la trasparenza è affiancata da convalida, revisione e monitoraggio in runtime.