Il prompting è l'istruzione o l'input usati per indirizzare la risposta di un modello linguistico. Un prompt può essere una semplice domanda, un modello strutturato o un insieme più lungo di vincoli che indica al modello quale ruolo interpretare, quali dati usare e come formattare l'output. Nella sicurezza informatica, il prompting è importante perché influenza fortemente se uno strumento di IA produce analisi utili, automazione sicura o testo fuorviante.
Gli aggressori possono abusare del prompting tramite il prompt injection, in cui testo malevolo viene inserito in email, pagine web, ticket o documenti per sovrascrivere il comportamento previsto del modello. Questo può spingere un sistema a rivelare segreti, ignorare le regole di sicurezza o compiere azioni dannose negli strumenti collegati. I difensori usano un prompting attento per limitare l'ambito, separare le istruzioni di sistema dal contenuto dell'utente e richiedere prove, citazioni o output strutturati. Prompt ben progettati non eliminano il rischio, ma aiutano a ridurre allucinazioni, aggiramento delle policy e fughe accidentali di dati nei flussi di lavoro di sicurezza.