Blueprint fuori controllo: il segreto AI da 2,5 miliardi di dollari di Anthropic svelato in una storica fuga di codice

Doveva essere solo un altro aggiornamento silenzioso nella marcia inarrestabile dell’intelligenza artificiale. Invece, un singolo passo falso durante il rilascio del codice di Anthropic ha scatenato un terremoto digitale, disseminando in tutto il mondo il codice gelosamente custodito del suo strumento di punta, Claude AI-e riscrivendo potenzialmente il panorama competitivo dell’AI per gli anni a venire.

L’anatomia di una catastrofe

Quello che era iniziato come un rilascio di routine della versione 2.1.88 sul registro npm è degenerato in una delle fughe di dati più rilevanti nella storia dell’industria dell’AI. Un file di source map di quasi 60 MB-pensato per il debug e la traduzione del codice-è stato erroneamente incluso nella release pubblica. All’utente medio potrebbe sembrare un innocuo artefatto tecnico. Ma per uno sviluppatore è una Stele di Rosetta: una mappa trasparente che riporta dal linguaggio criptico del codice macchina a istruzioni leggibili.

L’errore è stato individuato rapidamente da Chaofan Shou, uno stagista di Solayer Labs, che ha diffuso la scoperta sui social media. Nel giro di poche ore, il codice era già stato duplicato, condiviso e analizzato da migliaia di persone. La gestione dei danni da parte di Anthropic è stata rapida, ma il genio era ormai uscito dalla lampada; il mondo aveva ora un posto in prima fila nella sala macchine di un business da 2,5 miliardi di dollari.

Cosa è stato esposto?

Il vero colpo della fuga sta nell’ingegnosità tecnica che ha messo a nudo. Claude AI di Anthropic, a quanto pare, aveva risolto una famigerata sfida dell’AI: l’entropia del contesto, la tendenza di un’AI a perdere chiarezza durante compiti lunghi o complessi. La loro risposta? Un sistema di memoria a tre livelli, paragonato da un ingegnere a un “bibliotecario scettico” che verifica costantemente i fatti. Il codice faceva anche riferimento a progetti segreti: KAIROS (un correttore di bug “sempre attivo”), Undercover Mode (che maschera il coinvolgimento dell’AI nei progetti pubblici) e diversi modelli non ancora rilasciati, tra cui Capybara e Fennec.

Sebbene nessun dato dei clienti sia stato compromesso, la perdita strategica è enorme. Non solo i rivali hanno ottenuto una finestra sui gioielli della corona tecnica di Anthropic, ma la fuga lascia anche intravedere la direzione futura dell’azienda-potenzialmente neutralizzando anni di vantaggio competitivo.

Danni collaterali e rischi in corso

A complicare ulteriormente il caos, nello stesso intervallo di tempo si è verificato un attacco Trojan al pacchetto npm Axios, che ha infettato gli utenti che hanno aggiornato durante la violazione. Anthropic ha invitato tutti gli utenti a passare al suo Native Installer, sottolineando che anche le fughe accidentali possono avere conseguenze a cascata sia per le aziende sia per gli utenti finali.

Riflessioni: quando l’errore umano incontra poste altissime

Questo incidente è un monito severo: nel mondo dell’AI, il confine tra routine e rovina è sottilissimo. Mentre la polvere si posa, il settore si troverà a fare i conti non solo con le ricadute tecniche, ma anche con domande difficili su sicurezza, trasparenza e il vero costo di un singolo file messo nel posto sbagliato.

WIKICROOK

• Source map: Una source map collega il codice minificato o compilato al suo sorgente originale, facilitando il debug ma comportando rischi di sicurezza se esposta.
• Registro npm: Il Registro NPM è una directory online in cui gli sviluppatori condividono, pubblicano e scaricano pacchetti JavaScript open source da usare in vari progetti software.
• Entropia del contesto: L’entropia del contesto è la perdita graduale di coerenza nella memoria dell’AI, che porta a una riduzione di accuratezza ed efficacia nei sistemi di cybersicurezza man mano che il contesto svanisce nel tempo.
• Virus Trojan: Un virus Trojan è un malware camuffato da software legittimo, che induce gli utenti a installarlo e compromette la sicurezza del loro computer.
• Native Installer: Un installer nativo è un’app autonoma che installa software direttamente su un sistema operativo, aggirando gestori di pacchetti e app store di terze parti.