L'offuscamento dei prompt è la pratica di mascherare istruzioni dannose o in violazione delle policy in modo che sembrino testo ordinario e siano più difficili da rilevare per i filtri automatici. Invece di trucchi evidenti come Base64, simboli insoliti o caratteri nascosti, l'attaccante usa prosa fluida, formulazioni indirette o una struttura a più livelli per nascondere la reale intenzione del prompt.
Questo è importante perché molti sistemi di IA si affidano a controlli leggeri per decidere se un input è sicuro prima che venga eseguito un modello o uno strumento più capace. Se il primo filtro è troppo superficiale, i prompt offuscati possono passare e attivare prompt injection, generazione non sicura o azioni indesiderate da parte di un agente. I difensori riducono questo rischio usando controlli a più livelli, separando le istruzioni dai dati, monitorando l'uso e l'output degli strumenti e limitando i privilegi di sistema in modo che un singolo prompt mancato non porti a una compromissione completa.


