Una classe di attacco LLM è una vasta categoria di minacce che prendono di mira i modelli linguistici di grandi dimensioni sfruttando il modo in cui elaborano prompt, contesto e output. Invece di violare la crittografia o aggirare un accesso, l'attaccante cerca di influenzare il modello stesso: facendogli seguire istruzioni malevole, rivelare dati sensibili, ignorare le regole di sicurezza o produrre contenuti dannosi.
Questo è importante perché i LLM sono sempre più integrati in chatbot, assistenti per email, strumenti di codice e sistemi di ricerca interni. Esempi reali includono prompt injection, data poisoning, jailbreak e manipolazione dell'output. I difensori riducono il rischio separando le istruzioni di sistema affidabili dal contenuto utente non affidabile, filtrando input e output, limitando l'accesso agli strumenti, registrando le azioni del modello e testando i modelli contro prompt avversari. Considerare queste minacce come una classe di attacco aiuta i team di sicurezza a costruire controlli per l'intero flusso di lavoro dell'IA, non solo per l'applicazione che vi ruota attorno.