Un neo-cloud è un fornitore di cloud incentrato sull'IA che vende capacità dedicate di accelerazione, di solito GPU o altri chip specializzati, oltre a un'infrastruttura ottimizzata per l'addestramento e l'inferenza di modelli di grandi dimensioni. A differenza del cloud generico, un neo-cloud è ottimizzato per elevato throughput, networking a bassa latenza e calcolo denso. Questo lo rende attraente per i team IA, ma cambia anche il modello di sicurezza: i segnali più importanti potrebbero trovarsi all'interno dello stack dell'acceleratore, non solo nei log standard dell'host o del SaaS.
Nella sicurezza informatica, i neo-cloud sono importanti perché gli aggressori possono abusare di grandi pool di GPU per l'addestramento non autorizzato di modelli, l'esfiltrazione di dati o il furto di risorse, mentre i difensori possono aver bisogno di telemetria nativa dell'acceleratore per individuare utilizzi insoliti, modifiche a runtime o anomalie del fabric. Gli strumenti endpoint convenzionali possono non rilevare questi segnali. I team di sicurezza quindi correlano le metriche GPU, lo stato di salute del network fabric, l'identità del workload e i log del cloud per rilevare usi impropri, applicare l'isolamento dei tenant e indagare su comportamenti sospetti in ambienti IA densamente popolati.