Il prompt framing è il modo in cui una domanda o un'istruzione viene formulata, e può influenzare fortemente il modo in cui risponde un modello di IA. Piccoli cambiamenti nel tono, nelle ipotesi o nella struttura possono spingere un modello verso l'accordo, la cautela, il dettaglio o il rifiuto.
Nella sicurezza informatica, il prompt framing conta perché lo usano sia gli attaccanti sia i difensori. Un attaccante può formulare una richiesta in modo da aggirare le protezioni, ottenere indicazioni sensibili o indurre un modello ad accettare una premessa falsa. Un difensore può strutturare i prompt per richiedere prove, chiedere punti di vista alternativi o costringere il modello a mettere in discussione ipotesi deboli. Un buon prompt framing non rende affidabile un sistema di IA di per sé, ma può ridurre le risposte compiacenti e migliorare la verifica nei flussi di lavoro ad alto rischio.