L'orchestrazione GPU è il livello software che pianifica, assegna e monitora i job GPU su infrastrutture condivise. Decide quale workload ottiene accesso a quale acceleratore, quando vengono eseguiti i job, come vengono suddivise memoria e capacità di calcolo e come le risorse vengono recuperate quando un'attività termina. In una piattaforma di intelligenza artificiale, l'orchestrazione trasforma costose GPU in un servizio condiviso invece che in macchine isolate.
È importante nella sicurezza informatica perché il piano di orchestrazione controlla l'accesso privilegiato a risorse di calcolo di alto valore e spesso anche a percorsi di dati sensibili. Se è configurato in modo errato o compromesso, gli aggressori possono sottrarre capacità, spiare tenant vicini, interrompere i job di addestramento o spostarsi lateralmente tramite API di gestione e credenziali del cluster. I difensori usano l'orchestrazione per quote, isolamento dei tenant, registrazione, applicazione delle policy e pianificazione sicura, rendendola un controllo chiave per sistemi IA multi-tenant e ambienti di ricerca regolamentati.