Un classificatore delle richieste è un livello di sicurezza che esamina il prompt di un utente prima che il modello risponda e gli assegna un'etichetta di rischio, ad esempio benigno, a doppio uso o potenzialmente dannoso. Può cercare l'intento, parole chiave, contesto tecnico e modelli associati a un uso improprio. Il classificatore non genera la risposta in sé; aiuta a decidere se la richiesta debba ricevere una risposta normale, essere limitata, indirizzata a un percorso più sicuro o rifiutata.
Nel contesto della cybersecurity, i classificatori delle richieste sono importanti perché lo stesso modello può essere utile per attività difensive e pericoloso per indicazioni offensive. Un prompt sulla revisione del codice può essere consentito, mentre un prompt che chiede istruzioni per un exploit può essere bloccato. Nei sistemi reali, questo controllo aiuta a ridurre gli abusi, ma non è perfetto: gli aggressori possono cercare di mascherare l'intento malevolo e i difensori devono disporre di classificatori regolati abbastanza bene da non bloccare la ricerca legittima.