Un runtime del modello locale è un software che esegue un modello di IA sul dispositivo stesso invece di inviare ogni richiesta a un servizio cloud remoto. Può apparire come un processo autonomo, uno strumento di sviluppo o un componente incluso in un'applicazione. Poiché il modello viene eseguito sull'endpoint, può elaborare prompt, file e codice in locale, il che modifica sia il flusso dei dati sia il perimetro di sicurezza.
Nella sicurezza informatica, questo è importante perché i runtime locali possono sfuggire agli inventari software tradizionali che elencano solo le app desktop installate. I difensori hanno bisogno di telemetria dell'endpoint per vedere se un modello è attivo, quali dati può accedere e se gli è consentito connettersi a sistemi interni o API esterne. Gli attaccanti possono sfruttare la stessa flessibilità nascondendo comportamenti assistiti dall'IA all'interno di un processo dell'endpoint, mentre i difensori possono usare lo stesso modello di runtime per ridurre l'esposizione al cloud e mantenere i contenuti sensibili sul dispositivo. La domanda chiave non è solo se l'IA sia presente, ma dove stia effettivamente eseguendo.