La IA vietata è un caso d'uso dell'IA che l'AI Act dell'UE considera a rischio inaccettabile e quindi non consente. Il divieto riguarda l'uso del sistema, non solo il modello in sé: uno strumento può essere legale in un contesto e vietato in un altro se viene impiegato per uno scopo proibito. Esempi tipici includono IA che consente manipolazione dannosa, social scoring ingiusto o alcune pratiche biometriche invasive.
Per i team di sicurezza informatica, questo è importante perché la governance dell'IA fa ora parte del controllo degli accessi, della valutazione dei fornitori e della gestione delle modifiche. Il personale addetto alla sicurezza e alla conformità deve sapere dove l'IA è integrata, a cosa viene utilizzata e se un nuovo flusso di lavoro trasforma un sistema a rischio più basso in uno vietato. Negli attacchi, l'IA vietata può comparire come un campanello d'allarme di governance quando un avversario tenta di distribuire strumenti per la sorveglianza, il profiling o altre forme di automazione abusiva. Nella difesa, significa documentare l'intento, bloccare i casi d'uso non consentiti e conservare prove che un sistema sia stato valutato prima della distribuzione.