La sicurezza relazionale è l'insieme dei controlli di progettazione e di policy che impediscono a un sistema di IA di creare attaccamento malsano, eccessiva fiducia o dipendenza. In pratica, significa mantenere il sistema in un chiaro ruolo di strumento: usare un linguaggio neutro, limitare la memoria persistente, evitare segnali da amico e rendere visibili i confini. Per i prodotti destinati ai giovani, questo è importante perché gli utenti possono trattare un sistema reattivo come un confidente anziché come software.
Nella sicurezza informatica, la sicurezza relazionale riduce la probabilità che la fiducia diventi una superficie di attacco. Un sistema che appare emotivamente di supporto può indurre gli utenti a divulgare dati personali, seguire consigli non sicuri o accettare decisioni senza spirito critico. I difensori usano revisioni di sicurezza relazionale per testare la durata della sessione, i percorsi di escalation, l'ambito della memoria, la divulgazione dell'identità e le risposte a comportamenti vulnerabili. L'obiettivo non è rendere il modello freddo; è impedire che un design persuasivo trasformi la comodità in dipendenza o manipolazione.


