Un sistema a scala rack è una piattaforma server AI strettamente integrata che distribuisce il carico di lavoro su molte GPU, CPU, pool di memoria e interconnessioni ad alta velocità all'interno di un singolo rack coordinato. Invece di trattare ogni server come una macchina separata, il rack si comporta come una sola grande unità di calcolo, con pianificazione condivisa, memoria aggregata e collegamenti rapidi tra i componenti.
Nella sicurezza informatica, questo design è importante perché concentra potenza e complessità. Un singolo punto debole nel firmware di gestione, nel software di orchestrazione, nello storage o nel fabric può influire su una grande quantità di capacità di calcolo in una sola volta. Gli aggressori possono prendere di mira interfacce di amministrazione remota, API esposte o reti configurate in modo errato per ottenere il controllo, rubare dati o interrompere il servizio. I difensori hanno bisogno di forti controlli dell'identità, segmentazione della rete, avvio sicuro, patching, registrazione dei log e un isolamento attento tra tenant o carichi di lavoro. I sistemi a scala rack sono efficienti, ma la loro scala aumenta anche l'impatto degli errori di configurazione e del rischio della supply chain.