Lunedi 19 Ottobre 2026 15:18:25 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Blind Prompt Injection

Istruzioni malevole che influenzano un sistema di IA senza che l'attaccante debba ricevere un feedback diretto.

La blind prompt injection è un'istruzione malevola incorporata nel contenuto che un sistema di IA legge, in cui l'attaccante non ha bisogno di vedere la risposta del modello. Il bersaglio può essere un chatbot, un agente o un flusso di lavoro che usa strumenti e che acquisisce pagine web, email, file o dati API e poi segue tali istruzioni nascoste come se fossero contesto affidabile.

È importante perché i moderni sistemi di IA possono fare più che generare testo: possono richiamare strumenti, recuperare dati e attivare azioni. Una blind injection riuscita può indirizzare un agente verso la fuga di informazioni, l'approvazione di un uso non sicuro degli strumenti o la modifica del comportamento senza segnali evidenti per l'utente. I difensori riducono il rischio separando i contenuti non affidabili dalle istruzioni, limitando a quali strumenti gli agenti possono accedere, richiedendo approvazione per le azioni sensibili e convalidando gli output prima che vengano utilizzati. In pratica, si tratta di un attacco di social engineering rivolto al contesto del modello, non all'operatore umano.

← indice WIKICROOK