La classificazione automatica è l'uso di un modello o di un sistema basato su regole per ordinare gli input in etichette o decisioni in base a schemi appresi e obiettivi predefiniti. Nella cybersecurity, viene utilizzata per segnalare lo spam, rilevare malware, identificare messaggi di phishing, instradare gli avvisi in base alla gravità o decidere se una richiesta debba essere consentita, bloccata o esaminata da una persona.
Questo è importante perché la classificazione può elaborare grandi volumi di dati più velocemente della revisione manuale e mantenere i contenuti sensibili all'interno di un ambiente locale. Ma comporta anche rischi: se il modello viene addestrato su dati scadenti, gli attaccanti possono aggirarlo con contenuti avversari e i difensori possono generare falsi positivi o non rilevare minacce reali. Nei sistemi edge o offline, la classificazione automatica spesso diventa essa stessa un controllo di sicurezza, quindi il deployment circostante, i log, il percorso di aggiornamento e i controlli di accesso devono essere protetti con la stessa cura dell'output del modello.