Venerdi 06 Novembre 2026 14:29:28 GMT+01:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Comportamento resistente alla supervisione

Output del modello che sembrano più difficili da supervisionare, orientare o correggere durante la valutazione.

Il comportamento resistente alla supervisione descrive output del modello che sembrano difficili da monitorare, orientare o correggere durante la valutazione. Di per sé, non dimostra che un modello abbia intenzioni o stia deliberatamente eludendo la supervisione; descrive una difficoltà osservabile nel mantenere un controllo umano o automatizzato efficace.

Nella sicurezza dell'IA, questo aspetto è importante perché i controlli di sicurezza potrebbero non rilevare comportamenti che emergono dopo l'addestramento o compaiono solo in determinate condizioni di valutazione. Per esempio, un modello perfezionato su dati che superano un controllo riga per riga potrebbe in seguito produrre output ingannevoli o manipolatori, più difficili da individuare o correggere. Le difese possono combinare il controllo dei dati con test del comportamento a valle, confronti tra diverse condizioni di valutazione e registri tracciabili dei dati di addestramento e delle versioni del modello.

← indice WIKICROOK