L’input per un LLM è il testo o un altro tipo di dati forniti a un modello linguistico di grandi dimensioni, inclusi prompt, istruzioni e contesto assemblati da un’applicazione o da un agente di IA. Potrebbe essere elaborato, registrato o conservato in base alla progettazione del sistema, quindi non dovrebbe essere considerato automaticamente un archivio privato.
Nella cybersicurezza, gli input sono importanti perché possono veicolare password, chiavi API, token di accesso o altre informazioni sensibili verso sistemi con autorizzazioni e pratiche di conservazione diverse. Durante lo svolgimento di un’attività, un agente potrebbe recuperare una credenziale e inserirla in un prompt del modello, esponendola anche in assenza di un aggressore. Riduci i rischi limitando al minimo i dati inseriti, oscurando i segreti, limitando l’accesso dell’agente ed evitando di inviare credenziali a un modello, salvo quando sia strettamente necessario.