Il model cascading è una strategia di instradamento che invia ogni richiesta al modello più piccolo in grado probabilmente di gestirla, ed esegue l'upgrade solo dei casi più difficili verso modelli più capaci o più costosi. La decisione può basarsi sulla lunghezza del prompt, sul livello di confidenza, sulla sensibilità, sugli obiettivi di latenza o sulla necessità di un ragionamento più approfondito. In questo modo i sistemi di IA restano più veloci ed economici, preservando la qualità dove conta di più.
Nella sicurezza informatica, il model cascading aiuta a scalare il rilevamento e la risposta senza sprecare risorse di calcolo. Un modello leggero può smistare spam, phishing, semplici domande di policy o avvisi ripetitivi, mentre un modello più robusto esamina incidenti ambigui, analisi di malware o indagini ad alto impatto. Riduce anche la superficie di attacco legata all'abuso dei costi: gli avversari possono cercare di sommergere un servizio con richieste che costringono a un'inferenza costosa, quindi la logica di routing e le misure di protezione sono importanti. Se implementato bene, il cascading è sia un controllo dei costi sia un controllo della resilienza.