Un small language model è un modello di IA compatto ottimizzato per un insieme di compiti più ristretto rispetto a un large language model generalista. Di solito è ottimizzato per costi inferiori, risposte più rapide e un comportamento più prevedibile su input ben definiti, come la classificazione delle email, l'estrazione di campi dai log o la redazione di brevi risposte a partire da dati controllati.
Nella sicurezza informatica, i small language model sono importanti perché possono essere più facili da vincolare e monitorare rispetto a sistemi di chat più ampi. I team li usano spesso per il rilevamento del phishing, il triage degli alert, la sintesi di malware o ticket e l'estrazione di testo basata su policy, soprattutto quando i dati devono rimanere on-premises o in un ambiente ristretto. Gli aggressori possono anche usare modelli compatti per produrre in massa esche convincenti o automatizzare semplici attività di ricognizione. Come qualsiasi modello, un small language model ha comunque bisogno di grounding, validazione e revisione umana quando il suo output può influire su accessi, conformità o risposta agli incidenti.