Un modello surrogato è un sistema sostitutivo addestrato per approssimare il comportamento di un modello di destinazione. Nell'apprendimento automatico, può essere costruito legittimamente per comprimere un modello grande o ridurre i costi di calcolo. Nella sicurezza informatica, la stessa idea diventa sensibile quando un attaccante usa richieste ripetute e output raccolti da un endpoint AI pubblico per addestrare una copia che imita il servizio originale.
Questo è importante perché il valore del modello di destinazione non risiede solo nei suoi pesi, ma anche nel suo comportamento. Se le risposte possono essere raccolte su larga scala, un concorrente o un attaccante può riprodurre le capacità senza violare il backend. I difensori considerano questo un rischio di estrazione del modello e cercano segnali come traffico automatizzato ad alto volume, schemi di account insoliti, uso di proxy e interrogazioni ripetute degli stessi prompt. Controlli come il rate limiting, il rilevamento delle anomalie e il monitoraggio degli output aiutano a rendere l'addestramento di un modello surrogato più difficile e costoso.