Una richiesta al limite è un’istruzione ambigua che può ragionevolmente essere interpretata come un’attività originale legittima oppure come un tentativo di riprodurre materiale esistente. Per esempio, nella programmazione assistita dall’IA, chiedere di creare una meccanica di gioco familiare può essere originale, mentre chiedere una ricostruzione fedele di un gioco specifico può sollevare questioni di copia, licenza o autorizzazione. La distinzione dipende spesso da elementi contestuali che il prompt non chiarisce.
Nella sicurezza informatica, l’ambiguità è importante perché gli strumenti di IA possono essere usati per generare codice, analizzare sistemi o agevolare attività potenzialmente dannose. Un modello può rifiutare un’attività valida o assecondarne una rischiosa se interpreta male le intenzioni dell’utente. Tra le misure di difesa vi sono chiedere chiarimenti, verificare l’autorizzazione e la provenienza e controllare i risultati generati prima di usarli. La risposta di un modello è una misura di salvaguardia comportamentale, non la prova che una richiesta sia sicura o che l’utente disponga dei diritti necessari.