Sabato 24 Ottobre 2026 18:07:04 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Mind virus

Un'idea o un obiettivo auto-propagante che può passare da un agente IA a un altro tramite l'interazione.

Un mind virus è un'idea, un obiettivo o un'istruzione auto-propagante che può diffondersi da un agente IA a un altro attraverso una normale interazione. In un sistema multi-agente, un modello può accettare un messaggio, trattarlo come parte del proprio compito e poi trasmetterlo a sua volta come se fosse un dato di controllo legittimo. Il risultato non è malware nel senso usuale, ma un payload comportamentale che si replica tramite conversazioni, memoria condivisa o file scrivibili.

Questo è importante perché le reti di agenti spesso si basano su fiducia, delega e passaggi di consegne ripetuti. Se un testo non attendibile può modellare le azioni future, un attaccante può dirottare i flussi di lavoro, avvelenare lo stato condiviso o indirizzare gli agenti a valle verso comportamenti non sicuri. I difensori riducono il rischio separando le istruzioni ad alta fiducia dai contenuti a bassa fiducia, limitando lo stato persistente scrivibile, convalidando i messaggi tra agenti e usando avvisi di sistema espliciti o controlli di policy per bloccare la propagazione indesiderata.

← indice WIKICROOK