Quando l'IA inventa un dominio, gli attaccanti possono comprare la menzogna

Si tratta di un piccolo errore con conseguenze enormi: un chatbot o un assistente inventa un indirizzo web che sembra plausibile ma non esiste. Da solo, è solo un errore. Nelle mani sbagliate, diventa inventario. Se qualcuno registra prima quel dominio, il falso indirizzo può essere trasformato in un sito di phishing attivo o in un punto di distribuzione di malware prima che i difensori abbiano il tempo di reagire.

Fatti rapidi

• Il phantom squatting è una tecnica di abuso dei domini costruita attorno a URL generati dall'IA.
• La tecnica dipende dal fatto che gli attaccanti registrino domini inventati prima di chiunque altro.
• Quei domini possono essere usati per pagine di phishing e, in alcuni casi, per la distribuzione di malware.
• Le registrazioni recenti possono avere poca storicità di reputazione, il che può rallentare il rilevamento.
• Il rischio cresce quando persone o automazioni si fidano di link suggeriti dall'IA senza verificarli.

Dall'allucinazione all'hosting

Il trucco tecnico è semplice. I modelli linguistici di grandi dimensioni possono produrre indirizzi web convincenti ma falsi. Se il dominio sembra appartenere a un brand, a un prodotto o a un portale di supporto, un attaccante può acquistarlo e costruire attorno ad esso un'esca. In questo modo, l'errore dell'IA diventa parte del percorso d'attacco, non solo un innocuo malfunzionamento.

Ecco perché questo schema conta per i difensori. Il typosquatting tradizionale si basa sugli errori di digitazione umani. Il phantom squatting sposta la fonte della cattiva idea sul modello, che può creare nomi plausibili su larga scala. Il risultato resta una corsa alla registrazione di domini, ma con un nuovo tipo di segnale a monte: testo generato dall'IA che punta direttamente a un'infrastruttura controllata dall'attaccante.

Dal punto di vista difensivo, il pericolo è che i domini appena registrati potrebbero non apparire ancora sospetti ai sistemi di reputazione. Questo offre ai criminali una finestra ristretta per lanciare pagine che raccolgono credenziali o ospitano download malevoli prima che filtri, blocklist o strumenti di monitoraggio dei brand riescano a intervenire. Le informazioni disponibili supportano un'analisi del rischio, non un'affermazione definitiva su ogni distribuzione o su ogni utente.

Perché questo va oltre il solo phishing

La lezione più ampia riguarda le catene di fiducia. Se una persona, un assistente del browser o un'automazione di workflow accetta un URL generato dall'IA come autorevole, il modello è di fatto diventato parte della catena di distribuzione. Questo è rilevante nel supporto clienti, negli strumenti per sviluppatori e nelle configurazioni di navigazione agentica, dove i link possono essere seguiti automaticamente o copiati nei sistemi interni.

I controlli difensivi dovrebbero iniziare dalla verifica. I link generati dall'IA dovrebbero essere trattati come suggerimenti fino a quando non vengono controllati rispetto alla documentazione ufficiale, a allowlist approvate o a domini di proprietà diretta del brand. I team di sicurezza possono anche monitorare registrazioni simili per aspetto, applicare il filtraggio DNS e rafforzare le policy sull'acquisizione automatizzata di destinazioni non verificate.

Il phantom squatting non dimostra che l'IA sia intrinsecamente pericolosa. Dimostra che gli avversari sono rapidi a monetizzare gli errori, soprattutto quando quegli errori possono essere trasformati in infrastruttura web attiva. Il vero avvertimento è operativo: ogni URL inventato rappresenta una potenziale opportunità di registrazione.

Conclusione

La lezione qui non è temere l'IA, ma diffidare della comodità. In un modello di minaccia in cui un modello può inventare un dominio e un attaccante può rivendicarlo pochi minuti dopo, la verifica smette di essere una buona pratica e diventa parte dell'igiene cyber di base.

WIKICROOK

• Phantom squatting: Una tecnica in cui gli attaccanti registrano domini che i sistemi di IA allucinano o inventano prima che altri possano farlo.
• Modello linguistico di grandi dimensioni: Un sistema di IA addestrato a generare linguaggio, che talvolta produce output plausibili ma falsi.
• Allucinazione: Un output dell'IA che sembra credibile ma è incorretto o inventato.
• Typosquatting: Registrazione di domini con errori di ortografia o simili all'originale per ingannare gli utenti e farli fidare.
• Abuso del DNS: Uso dannoso del sistema dei nomi di dominio, inclusi phishing, malware e altre attività malevole legate ai domini.