Un ingegnere della sicurezza dell'IA protegge i sistemi di IA e i dati, il software e i flussi di lavoro da cui dipendono. Il ruolo può coprire l'intero ciclo di vita - dalla preparazione dei dati e dall'addestramento dei modelli fino alla distribuzione e all'inferenza - e combina pratiche di cybersicurezza con la conoscenza dei rischi specifici dell'IA.
Nella difesa pratica, questo lavoro può includere la revisione degli accessi ai modelli e ai set di dati, la protezione delle pipeline di IA, il collaudo dei sistemi per individuare usi impropri o manipolazioni e il monitoraggio delle distribuzioni per rilevare attività sospette. Queste misure contribuiscono a ridurre rischi quali l'esposizione dei dati, la compromissione dei componenti o comportamenti non sicuri dei modelli. Il titolo descrive una funzione di sicurezza specializzata; di per sé non indica quali strumenti o responsabilità assegni un determinato datore di lavoro.