Il contesto di distribuzione è l’ambiente reale in cui opera il software: i dati a cui può accedere, gli utenti che interagiscono con esso, le sue autorizzazioni, i servizi connessi e i flussi di lavoro supportati. Un modello o un’applicazione può comportarsi diversamente in produzione rispetto a un laboratorio, perché queste condizioni circostanti ne modificano ciò che può vedere e fare.
Il contesto è importante per la cybersicurezza perché spesso i rischi emergono ai confini tra software, dati e diritti di accesso. Per esempio, un sistema di IA collegato a documenti interni o a strumenti aziendali potrebbe esporre informazioni sensibili o eseguire azioni se le sue integrazioni o autorizzazioni non sono controllate adeguatamente. I difensori dovrebbero testare l’intero sistema nell’ambiente per cui è previsto, esaminare i confini di fiducia e applicare il principio del privilegio minimo. Un benchmark può contribuire a questa valutazione, ma non può sostituire il test della distribuzione effettiva.