Un Centro di eccellenza per l'IA, o CoE, è un team centralizzato che definisce gli standard su come un'organizzazione progetta, approva, distribuisce e monitora i sistemi di IA. Di solito fornisce governance, modelli condivisi, formazione, revisione dei rischi e linee guida per i team che sviluppano applicazioni di machine learning o di IA generativa.
Nella sicurezza informatica, un CoE è importante perché l'IA cambia contemporaneamente la superficie di attacco e la superficie di controllo. Aiuta a prevenire progetti di IA ombra, controlli di accesso incoerenti, una gestione debole dei dati e un uso non sicuro dei modelli. Un buon CoE definisce chi può addestrare i modelli, quali dati può utilizzare, come vengono testati gli output e come vengono approvate le eccezioni. È anche il luogo in cui vengono coordinate le difese contro le minacce specifiche dell'IA, come il prompt injection, la fuga di dati, l'abuso dei modelli e le azioni non autorizzate degli strumenti. Se è efficace, il CoE trasforma la governance dell'IA in una pratica continua anziché in una checklist una tantum, offrendo ai team di sicurezza, legali e di ingegneria un quadro condiviso per un'adozione più sicura.