Dentro la scatola nera: i valori di Shapley possono finalmente rivelare cosa sta pensando l’IA?

Immagina di affidarti a una macchina per prendere decisioni sulla tua salute, sulle tue finanze o persino sulla tua libertà-senza sapere mai perché abbia scelto in quel modo. Non è fantascienza; è la realtà quotidiana dell’intelligenza artificiale, soprattutto dei potentissimi Large Language Models (LLM) come GPT e Llama. Le loro risposte possono sembrare magia, ma dietro le quinte il loro funzionamento interno è una rete intricata. Ora, un concetto vecchio di decenni della teoria dei giochi, il valore di Shapley, viene salutato come una possibile chiave per sbloccare questi misteri. Ma è davvero all’altezza del compito-o è solo un’altra illusione?

La ricerca di una IA eXplainable (XAI) non è solo una sfida tecnica-è una necessità sociale e normativa. Con l’AI Act dell’Unione Europea all’orizzonte, gli sviluppatori sono sotto pressione per dimostrare non solo che i loro modelli funzionano, ma come e perché arrivano alle loro conclusioni. Il valore di Shapley, preso in prestito dalla teoria dei giochi cooperativa, promette di fare proprio questo calcolando quanto ciascun token in un prompt influenzi l’output del modello. In teoria, questo potrebbe permettere a regolatori e utenti di vedere esattamente quali parole fanno pendere l’ago della bilancia nella risposta di un’IA-rendendo la “scatola nera” un po’ meno buia.

Ma c’è un problema. Calcolare i valori di Shapley significa esaminare ogni possibile combinazione di token, un compito che cresce in modo esponenziale con ogni parola aggiunta. Per gli LLM giganteschi di oggi, questo diventa rapidamente un’assurdità computazionale. Peggio ancora, la stessa architettura che rende gli LLM così potenti-il Transformer-rimescola e mescola i contributi dei token in modi che sfidano una semplice attribuzione. È come cercare di stabilire quale ingrediente in uno stufato abbia plasmato di più il sapore, dopo ore di cottura a fuoco lento.

I ricercatori non si arrendono. Al SESAR Lab di Milano è stata sviluppata una nuova metrica chiamata Focused SHAP Entropy Ratio (FSER) per misurare quanto i “guardrail” (filtri e vincoli) riducano i bias negli output degli LLM. I primi esperimenti suggeriscono che questo potrebbe fornire un metro di misura molto necessario per l’IA etica, soprattutto sotto i nuovi riflettori normativi.

Nel frattempo, la prossima generazione di modelli di IA potrebbe offrire una via d’uscita. Architetture ibride come Mamba e l’innovativo RWKV stanno sostituendo il complesso rimescolamento del Transformer con un’elaborazione più snella e prevedibile. Aggiornando ricorsivamente i loro stati interni e operando con complessità lineare, questi modelli possono gestire in modo efficiente prompt più lunghi e potrebbero rendere fattibile un’analisi in stile Shapley-anche per contesti estesi, arricchiti da database.

I ricercatori europei, spesso considerati in ritardo rispetto agli Stati Uniti negli LLM tradizionali, ora hanno un’opportunità: combinando metriche rigorose di trasparenza, slancio normativo e nuove architetture efficienti, potrebbero fare un balzo in avanti e conquistare la leadership su un’IA etica e responsabile.

Conclusione

Il sogno di un’IA pienamente spiegabile resta sfuggente. I valori di Shapley offrono una promessa allettante, ma gli ostacoli tecnici e architetturali sono enormi. Eppure, con nuovi modelli e una pressione normativa incessante, l’era della segretezza dell’IA potrebbe finalmente avviarsi alla fine. Se l’Europa-o chiunque altro-riuscirà davvero a rendere l’IA responsabile è il prossimo capitolo di questa saga in divenire.

WIKICROOK

• Valore di Shapley: Il Valore di Shapley misura in modo equo il contributo di ciascun elemento nelle decisioni di gruppo, aiutando i team di cybersecurity a dare priorità ai rischi e ad allocare le risorse in modo efficace.
• Large Language Model (LLM): Un Large Language Model (LLM) è un’IA addestrata a comprendere e generare testo simile a quello umano, spesso usata in chatbot, assistenti e strumenti per i contenuti.
• Transformer: Un Transformer è un’architettura di rete neurale che consente all’IA di elaborare e comprendere in modo efficiente sequenze come linguaggio o immagini, alimentando molti modelli moderni.
• Guardrail: Un guardrail è un controllo di cybersecurity che limita azioni rischiose, prevenendo errori o abusi e contribuendo a mantenere sicurezza e conformità nei sistemi digitali.
• Rete neurale ricorsiva (RNN): Una rete neurale ricorsiva (RNN) elabora dati sequenziali, consentendo la memoria degli input passati. In cybersecurity viene usata per rilevare minacce a partire da pattern nel tempo.