La compattazione delle conversazioni è un processo che riduce una chat lunga a una rappresentazione più breve, aiutando un sistema di IA a rispettare i limiti di contesto o di archiviazione. Può riassumere i messaggi precedenti o conservare una parte selezionata dello stato della conversazione per utilizzarla in seguito.
La compattazione è rilevante per la sicurezza informatica perché trasforma dati che possono includere contenuti sensibili o uno stato interno protetto. Nei sistemi reali, eventuali difetti nel riassumere, archiviare o ricostruire il contesto compattato potrebbero esporre informazioni o indebolire i confini di accesso. Le misure di difesa includono la netta separazione del testo visibile agli utenti dai dati protetti, l'applicazione di salvaguardie durante l'intero processo di compattazione e ripristino e la verifica che i contenuti sensibili rimangano protetti dopo le trasformazioni. La compattazione è una funzionalità di gestione dei dati e non costituisce, di per sé, prova di una violazione.