Un gateway dei modelli è un livello che normalizza le richieste di IA in modo che le applicazioni possano comunicare con più provider di modelli tramite un'unica interfaccia. Può tradurre prompt e parametri, instradare il traffico verso diversi fornitori, applicare ritentativi o limiti di velocità e mantenere l'applicazione chiamante indipendente da un singolo servizio di IA.
Nella sicurezza informatica, questo è importante perché il gateway diventa un punto di controllo per l'accesso, la registrazione, la gestione dei dati e il failover. Se è gestito bene, i difensori possono ridurre il lock-in del fornitore, applicare policy e passare a provider diversi quando un servizio è degradato o un contratto cambia. Se è protetto male, il gateway può esporre prompt sensibili, credenziali e regole di instradamento, creando un obiettivo di alto valore per gli aggressori. Gli attacchi e le difese reali spesso si concentrano su questo livello attraverso errori di configurazione, furto di token, fuga di prompt, abuso dei percorsi di fallback e rischio della supply chain. I gateway sicuri richiedono quindi autenticazione forte, privilegi minimi, registri di audit e percorsi di uscita testati.