Il ragionamento protetto si riferisce al comportamento interno del modello, ai segnali di ragionamento intermedi o ai modelli decisionali che devono rimanere nascosti anziché essere esposti nelle normali risposte. Nei sistemi di IA moderni, questo può includere un comportamento simile al chain-of-thought, fasi decisionali legate alla sicurezza o altre dinamiche di risposta che aiutano un modello a produrre la risposta finale. Questi segnali sono preziosi perché spesso codificano le capacità distintive di un modello e la sua postura di sicurezza.
Nella sicurezza informatica, il ragionamento protetto è importante perché gli aggressori possono tentare di estrarlo tramite prompt ripetuti, interrogazioni automatizzate o altri metodi di probing per clonare il comportamento del modello o aggirare le protezioni. Questo trasforma l'interfaccia di un modello in un bersaglio di furto anche quando i pesi sottostanti non vengono rubati. I difensori monitorano richieste ad alto volume, ripetitive o sistematicamente variate, e utilizzano limiti di frequenza, autenticazione, rilevamento degli abusi e registrazione dei log per ridurre il rischio di estrazione preservando al contempo l'uso legittimo.