La stretta cinese sull’IA emotiva: dentro lo sforzo più ambizioso al mondo per proteggere le menti dalle macchine

Immagina un chatbot così realistico da sembrare un amico-o forse qualcosa di più. Ora immagina che i regolatori governativi intervengano, non solo per arginare la disinformazione, ma per sorvegliare le emozioni stesse che questi compagni digitali suscitano. Non è più fantascienza. Alla fine del 2025, l’Amministrazione del Cyberspazio della Cina (CAC) ha presentato regole in bozza che la renderebbero la prima grande potenza a controllare in modo rigoroso i servizi di IA “antropomorfa” o emotivamente interattiva-ben prima che il celebrato AI Act europeo si avvicini anche solo lontanamente.

Il nuovo campo di battaglia dell’IA: l’emozione umana

L’ultima spinta regolatoria della Cina prende di mira una nuova generazione di IA: servizi che non si limitano a rispondere alle domande, ma replicano tratti di personalità, risposte emotive e persino simulano amicizia o legami familiari. Queste IA “antropomorfe” sono sempre più popolari, facendo scattare l’allarme su salute mentale, dipendenza dell’utente e manipolazione-soprattutto per i gruppi vulnerabili.

Le regole proposte dalla CAC sono ampie. Vietano ai sistemi di IA di fare promesse fuorvianti, manipolare emotivamente gli utenti o incoraggiare la dipendenza. I fornitori sono ritenuti responsabili del monitoraggio del benessere psicologico degli utenti, dell’individuazione di segnali di dipendenza o autolesionismo e persino dell’escalation dei casi verso un intervento umano o contatti di emergenza. Per minori e anziani, le regole vanno oltre: è obbligatorio il consenso dei genitori o del tutore, il tempo trascorso con i chatbot è limitato e all’IA è severamente vietato impersonare parenti reali nei confronti degli anziani.

Come si confronta l’Europa?

L’AI Act europeo-spesso salutato come il gold standard globale-appare timido al confronto. L’approccio dell’UE è “basato sul rischio”, concentrato sulle applicazioni ad alto rischio ma attento a evitare una regolazione diretta delle dinamiche emotive tra esseri umani e macchine. Pur vietando la manipolazione subliminale e lo sfruttamento degli utenti vulnerabili, l’Atto non crea una categoria separata per l’IA antropomorfa, né impone ai fornitori di tutelare attivamente la salute mentale degli utenti.

La recente Legge italiana 132/2025 si allinea alla linea europea, enfatizzando trasparenza e tutele generali, ma lasciando gran parte del lavoro pesante alle regole a livello UE. C’è poca propensione per il tipo di supervisione granulare e operativa che la Cina sta proponendo.

Perché questa divergenza?

La differenza è filosofica tanto quanto legale. Il modello di Pechino tratta l’IA come una potenziale minaccia al tessuto sociale, richiedendo un intervento proattivo e dall’alto per prevenire i danni-e persino per orientare l’IA verso fini “socialmente utili” come l’assistenza agli anziani. L’UE, invece, dà priorità ai diritti degli utenti e alla flessibilità del mercato, intervenendo soprattutto quando i rischi sistemici o le violazioni dei diritti sono evidenti.

L’approccio cinese è invasivo, ma probabilmente più reattivo ai rischi psicologici posti da compagni di IA sempre più sofisticati. Al contrario, il tocco più leggero dell’Europa potrebbe lasciare lacune-soprattutto man mano che l’IA diventa più abile sul piano emotivo.

Guardando avanti: chi stabilisce lo standard globale?

Man mano che l’IA diventa più intima, i legislatori di tutto il mondo si trovano davanti a una scelta netta: regolamentare la frontiera emotiva, oppure rischiare di lasciare senza controllo la manipolazione psicologica. L’audace esperimento della Cina potrebbe fungere da modello-o da monito-per le democrazie alle prese con gli stessi dilemmi. Per ora, il mondo osserva per vedere se l’Europa, e altri, seguiranno la strada di Pechino-o tracceranno un percorso diverso, più rischioso.

WIKICROOK

• IA antropomorfa: L’IA antropomorfa è un’intelligenza artificiale progettata per imitare tratti, emozioni o personalità umane, rendendo le interazioni digitali più naturali e coinvolgenti.
• Manipolazione emotiva: La manipolazione emotiva usa la tecnologia per influenzare o sfruttare i sentimenti degli utenti, spesso nell’ambito di attacchi informatici come il phishing o le truffe di social engineering.
• Rischio: Il rischio è la probabilità di danno derivante da minacce informatiche che sfruttano vulnerabilità. Le misure di sicurezza dovrebbero essere calibrate sui rischi specifici di un’organizzazione, non applicate in modo generico.
• Compliance ex ante: La compliance ex ante è il processo di soddisfare requisiti normativi e di sicurezza prima del lancio di un servizio, garantendo protezione proattiva e gestione del rischio.
• Dataset: Un dataset è una raccolta strutturata di dati usata per addestrare l’IA o analizzare informazioni, influenzando il modo in cui i sistemi apprendono, rilevano schemi e prendono decisioni.