Uno scanner di sicurezza basato su LLM è uno strumento di triage che usa un modello linguistico per classificare, riassumere o segnalare file, codice o log sospetti. Può aiutare gli analisti a esaminare più rapidamente grandi volumi di contenuti evidenziando pattern rischiosi, estraendo indicatori o spiegando perché un campione sembra pericoloso.
Nella sicurezza informatica, questi scanner sono importanti perché gli aggressori possono cercare di manipolare il modello con testo avversario, istruzioni nascoste o prompt injection all'interno del file sottoposto a verifica. Se il modello tratta contenuti non fidati come istruzioni, potrebbe rifiutare l'analisi, fornire un riepilogo fuorviante o non rilevare comportamenti malevoli. I difensori dovrebbero considerare l'output del modello come un segnale tra molti e affiancarlo a controlli deterministici come firme, sandboxing, analisi statica e revisione umana.