Un servizio proxy AI è un livello intermediario che accetta richieste da un utente o cliente e le inoltra a un fornitore di modelli upstream, quindi rivende o riassegna tale accesso. Invece di avere un account o una chiave API diretta, ogni cliente, il proxy gestisce autenticazione, fatturazione e utilizzo per suo conto. Nelle implementazioni legittime, i proxy possono semplificare l'integrazione, misurare il consumo e nascondere la complessità del fornitore.
Nella sicurezza informatica, il termine è importante perché il proxy può diventare un punto di controllo per gli abusi. Gli attaccanti possono usare account sintetici, crediti rubati o relazioni di fatturazione compromesse per ottenere l'accesso al modello, quindi confezionare tale capacità per la rivendita nel mercato grigio. I difensori dovrebbero monitorare schemi insoliti di registrazione, rotazione degli account, uso improprio delle quote e discrepanze tra identità, pagamento e utilizzo. Una solida verifica della fatturazione, chiavi vincolate all'organizzazione e telemetria per singolo account rendono più difficile scalare gli abusi basati su proxy.