Giovedi 22 Ottobre 2026 14:55:59 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Comportamento non deterministico

Comportamento che può cambiare anche quando la stessa richiesta viene ripetuta.

Il comportamento non deterministico significa che un sistema può produrre risultati diversi anche quando riceve lo stesso input. Nella sicurezza, questo conta perché test ripetuti potrebbero non riprodurre le stesse chiamate agli strumenti, gli stessi output o gli stessi effetti collaterali. Il risultato può dipendere da stato nascosto, contesto variabile, temporizzazione, aggiornamento dei dati o campionamento del modello.

Per gli agenti AI, la non determinazione rende più difficile prevedere il rischio. Un prompt che in un ambiente di laboratorio sembra sicuro può attivare una sequenza diversa di azioni in produzione, soprattutto quando l'agente può leggere file, interrogare database o chiamare servizi esterni. I difensori rispondono con monitoraggio in tempo reale, autorizzazioni rigorose, passaggi di approvazione per le azioni sensibili e registrazione dei log che cattura ciò che l'agente ha effettivamente fatto. Anche gli aggressori possono sfruttare questa variabilità provando molte volte finché il sistema non prende un percorso non sicuro.

← indice WIKICROOK