L'AI su scala rack è un approccio progettuale che tratta un intero rack di server come unità di ingegneria, integrando calcolo, distribuzione dell'alimentazione, rete e raffreddamento invece di pianificare ciascuna parte separatamente. Negli ambienti AI ad alta densità, questo è importante perché il rack è il punto in cui si incontrano calore, elettricità e flusso di dati.
Per la sicurezza informatica, l'AI su scala rack cambia il modo in cui i difensori considerano disponibilità e resilienza. Se il raffreddamento, l'alimentazione o la telemetria si guastano, i job di training possono andare in throttling, l'inferenza può rallentare e gli strumenti di monitoraggio possono perdere capacità proprio quando servono di più. I difensori utilizzano sensori a livello di rack, allarmi di flusso e temperatura e runbook di manutenzione per individuare precocemente i guasti e contenere le interruzioni. Gli attaccanti possono tentare di sfruttare indirettamente queste dipendenze tramite carico sostenuto, configurazioni errate o interruzioni dei servizi della struttura, trasformando vincoli fisici in condizioni di denial-of-service.