La separazione degli input è la pratica di mantenere distinte le istruzioni attendibili, i prompt di sistema e le regole di policy dai contenuti non attendibili, come messaggi degli utenti, documenti recuperati, email o pagine web. In un'applicazione AI sicura, il modello dovrebbe essere in grado di riconoscere quale testo è autorevole e quale testo può contenere istruzioni ostili o irrilevanti.
Questo è importante perché molti attacchi contro i modelli linguistici funzionano inserendo di nascosto istruzioni all'interno del contenuto che il sistema è destinato a elaborare. Se il testo non attendibile viene mescolato nello stesso canale delle direttive di sistema, il modello potrebbe seguire l'istruzione sbagliata, esporre dati o attivare azioni di strumenti non sicure. I difensori usano la separazione degli input con modelli di prompt chiari, confini di ruolo, etichettatura dei contenuti, recupero in sandbox e filtri che rimuovono dai dati sorgente il testo eseguibile o simile a un'istruzione. È un controllo fondamentale per ridurre il rischio di prompt injection in chatbot, agenti e altri sistemi AI collegati a flussi di lavoro sensibili.