AlphaZero è un sistema di reinforcement learning di DeepMind famoso per aver dominato giochi complessi attraverso il self-play e la ricerca, anziché regole codificate manualmente. È importante nella sicurezza informatica perché è un chiaro esempio di un modello ad alte prestazioni le cui decisioni finali possono essere verificate, mentre il ragionamento interno può comunque essere difficile da spiegare per gli esseri umani.
Questo divario è importante ogni volta che l'IA viene usata per il rilevamento delle minacce, il punteggio delle frodi, le decisioni di accesso o il triage automatizzato. Un sistema ispirato a metodi simili ad AlphaZero può produrre risultati eccellenti, ma i difensori hanno comunque bisogno di auditabilità: perché è scattata una regola, quali evidenze sono state usate e quando il modello potrebbe fallire. Negli attacchi, un'IA opaca può rendere più difficile ispezionare l'automazione malevola; nelle difese, può creare problemi di fiducia e governance se gli operatori non riescono a giustificare una decisione. AlphaZero viene spesso usato per illustrare che l'accuratezza da sola non equivale a un ragionamento comprensibile o verificabile.