La gestione del rischio del ciclo di vita dell'IA è la pratica di applicare controlli di sicurezza e di governance a un sistema di IA dalla progettazione iniziale e dalla selezione dei dati fino all'addestramento, alla distribuzione, all'integrazione e al monitoraggio continuo. Considera il modello come un asset in evoluzione, non come un prodotto una tantum, in modo che rischi come dati di addestramento contaminati, prompt non sicuri, controlli di accesso deboli, fuga del modello e aggiornamenti non sicuri possano essere individuati e ridotti in anticipo.
Questo è importante perché i sistemi di IA spesso dipendono da dati esterni, fornitori, API e pipeline software, che ampliano la superficie di attacco. Nelle difese reali, i controlli del ciclo di vita includono l'inventario dei modelli, la validazione della provenienza dei dati, i test per i casi di abuso, la revisione degli output del modello, la registrazione delle decisioni e il monitoraggio di deriva o manomissioni dopo il rilascio. Negli attacchi, gli avversari possono sfruttare qualsiasi fase: corrompere gli input di addestramento, rubare i pesi del modello o manipolare le integrazioni per influenzare le decisioni a valle.