Il prompt design è la pratica di scrivere, strutturare e rifinire istruzioni per un modello di IA in modo che produca output accurati, pertinenti e limitati al compito desiderato. I prompt ben progettati di solito definiscono l'obiettivo, il formato richiesto, le fonti consentite, il tono e i confini, riducendo l'ambiguità e rendendo il comportamento del modello più prevedibile.
Nella sicurezza informatica, il prompt design è importante perché molti attacchi prendono di mira il livello delle istruzioni dei sistemi di IA. Il prompt injection può ingannare un chatbot o un agente inducendolo a ignorare le regole, esporre segreti o compiere azioni non sicure. Un prompt design accurato aiuta a difendersi da questo separando le istruzioni di sistema dagli input dell'utente, limitando l'accesso agli strumenti e richiedendo la convalida prima di qualsiasi azione. I team di sicurezza usano inoltre il prompt design per rendere l'IA più sicura nell'analisi del phishing, nella sintesi dei log e nella revisione del codice, imponendo citazioni, rifiutando richieste sensibili e inoltrando i risultati incerti a esseri umani. In pratica, il prompt design è sia un'abilità di produttività sia una misura di controllo.