Un limite rigido di token è un limite fisso di runtime sul numero di token che un sistema AI può elaborare o generare durante una richiesta, una sessione o una finestra temporale. A differenza di un budget flessibile che avvisa o degrada in modo graduale, un limite rigido interrompe la richiesta quando viene raggiunto il limite. Viene usato per controllare la spesa, prevenire prompt fuori controllo e impedire che carichi di lavoro elevati consumino capacità condivisa.
Nella sicurezza informatica, i limiti rigidi di token sono un controllo pratico contro gli abusi. Un attaccante può provare con prompt stuffing, chiamate ricorsive agli strumenti o finestre di contesto sovradimensionate per aumentare i costi, ritardare il servizio o forzare errori del modello. Un limite aiuta a contenere questo comportamento e a proteggere la disponibilità, ma può anche troncare contesto utile, ridurre la qualità delle risposte e attivare nuovi tentativi se impostato troppo basso. Buone difese abbinano i limiti a registrazione, quote per utente e limiti specifici per carico di lavoro, così sicurezza e affidabilità restano bilanciate.