La sicurezza a livello di sistema è un approccio di cybersecurity che protegge l'intero ambiente di distribuzione, non solo il modello, l'applicazione o il livello dei prompt. Include controllo delle identità e degli accessi, regole di rete, registrazione degli eventi, limiti di frequenza, sandboxing, gestione dei segreti e monitoraggio su ogni componente che possa influenzarne il comportamento.
Questo è importante perché gli attacchi ai moderni sistemi di IA e ai servizi web spesso hanno successo attraverso l'infrastruttura circostante piuttosto che tramite il modello centrale. Un attaccante può abusare di un'autenticazione debole, di permessi degli strumenti troppo ampi, di tracce di audit insufficienti o di API non protette per trasformare un servizio legittimo in una piattaforma per persistenza, abuso ripetuto o esposizione dei dati. I difensori usano la sicurezza a livello di sistema per ridurre questa superficie di attacco verificando utenti e agenti, limitando gli strumenti, rilevando sequenze anomale di azioni e restringendo ciò a cui ciascun componente può accedere. In pratica, considera il modello solo come una parte di un sistema più ampio e sensibile alla sicurezza.