L'infrastruttura AI cloud è l'insieme dei componenti ospitati nel cloud che eseguono un servizio di IA, inclusi endpoint di modelli, chiavi API, sistemi di autenticazione, archiviazione e strumenti di orchestrazione di supporto. È la spina dorsale operativa dietro l'inferenza ospitata e le piattaforme agentiche, dove le applicazioni inviano richieste a modelli remoti invece di eseguirli in locale.
È importante perché questa infrastruttura concentra segreti e punti di controllo di alto valore. Se un attaccante ruba credenziali, chiavi API o accesso root, potrebbe essere in grado di interrogare i modelli, alterare i prompt, esfiltrare dati o arrestare i servizi. Negli attacchi reali, i difensori trattano l'infrastruttura AI cloud come parte del più ampio piano di controllo del cloud: monitorano l'uso anomalo delle API, applicano il principio del privilegio minimo, ruotano i segreti, limitano l'accesso alla rete e registrano gli accessi agli endpoint dei modelli. Proteggere queste risorse aiuta a prevenire sia compromissioni dirette sia l'abuso di servizi di IA legittimi.