Il vero punto cieco dell'IA non è il modello - sono le autorizzazioni

La governance dell'IA non è più una conversazione secondaria nelle sale riunioni. La domanda più difficile è se la governance stia arrivando abbastanza presto da fare davvero la differenza. Un sondaggio EY ha reso ancora più evidente questa preoccupazione, mostrando un disallineamento tra le aziende che vogliono gestire il rischio dell'IA e gli strumenti agentici che stanno già utilizzando.

Quel divario conta perché i sistemi agentici non sono solo interfacce di chat. Quando un'IA può pianificare, richiamare strumenti, spostare dati o attivare flussi di lavoro, il perimetro di sicurezza si sposta dalla qualità dell'output all'identità, all'autorizzazione e al controllo delle azioni. In altre parole, il rischio non è più solo ciò che il modello dice. È ciò che il modello può fare.

Fatti rapidi

• Il sondaggio di EY indica un divario di governance tra la strategia IA e gli strumenti agentici utilizzati dalle aziende.
• L'IA agentica amplia la superficie di attacco oltre i prompt, includendo API, flussi di lavoro e sistemi a valle.
• Il NIST considera la governance dell'IA una responsabilità organizzativa, non solo un compito di ingegneria.
• Le linee guida OWASP per gli LLM evidenziano prompt injection, abuso degli strumenti e autonomia eccessiva come rischi chiave.
• Il principio del privilegio minimo, l'approvazione umana per le azioni rischiose e il logging dettagliato sono difese fondamentali per le implementazioni agentiche.

Come si presenta il disallineamento nella pratica

Dal punto di vista difensivo, il problema non è che le organizzazioni manchino di politiche sulla carta. È che le politiche spesso arrivano dopo il deployment. A un agente possono essere concessi accessi a email, sistemi di ticketing, archivi di file o applicazioni interne molto prima che i team abbiano definito chiari gate di approvazione, autorizzazioni limitate o playbook di risposta agli incidenti per le azioni guidate dall'agente.

Questo crea una nuova classe di rischio operativo. Se contenuti non attendibili raggiungono un agente capace di usare strumenti, la prompt injection o il context poisoning possono orientarlo verso azioni che l'utente non aveva mai inteso. Se le autorizzazioni sono troppo ampie, un semplice assistente può diventare uno strato di automazione ad alta fiducia, con un raggio d'azione ben oltre il suo scopo originale. La lezione più ampia è che l'autonomia moltiplica le conseguenze.

Le linee guida NIST sul rischio IA e il recente lavoro sull'identità degli agenti software rafforzano lo stesso punto: una volta che un sistema IA può agire, la governance deve coprire identità, autorità e supervisione. Le indicazioni OWASP aggiungono il lato pratico di questa equazione - limitare l'ambito degli strumenti, separare l'accesso in lettura e in scrittura, richiedere la revisione umana per le azioni sensibili e registrare ogni passaggio significativo compiuto dall'agente.

Ecco perché il risultato di questo sondaggio è importante anche senza che vi sia associata una singola violazione. Descrive un problema di control plane, non un problema di qualità del modello. Il modello può essere accurato, ma le autorizzazioni, i flussi di lavoro e la logica di approvazione che lo circondano possono comunque creare rischio.

Conclusione

L'IA agentica cambia la domanda a cui i team di sicurezza devono rispondere. Il problema non è più se un'IA possa produrre testo utile, ma se possa essere affidata ad agire in modo sicuro all'interno di un ambiente aziendale. Se la governance resta indietro rispetto al deployment, l'anello debole potrebbe essere il modello delle autorizzazioni, non il modello stesso.

WIKICROOK

• IA agentica: sistemi IA che possono pianificare attività e intraprendere azioni tramite strumenti o flussi di lavoro, non solo generare testo.
• Governance dell'IA: le politiche, la supervisione e i controlli usati per gestire come l'IA viene selezionata, implementata e monitorata.
• Prompt Injection: una tecnica in cui input malevoli o fuorvianti cercano di reindirizzare il comportamento di un sistema IA.
• Privilegio minimo: un principio di sicurezza che concede a un sistema solo l'accesso di cui ha realmente bisogno per funzionare.
• Gate di approvazione umana: un controllo che richiede a una persona di confermare azioni sensibili o ad alto impatto prima che avvengano.