Un riepilogo di compattazione è una versione condensata della conversazione precedente o dello stato dell'attività, usata quando una sessione di IA diventa troppo lunga. Invece di conservare ogni token, il sistema mantiene i dettagli più importanti così il modello può continuare a lavorare con meno contesto. Questo è utile per agenti di lunga durata, ma trasforma anche il riepilogo in un confine di sicurezza.
Nella sicurezza informatica, i riepiloghi di compattazione contano perché qualsiasi istruzione non attendibile o dato sensibile che sopravvive alla compressione può influenzare le azioni successive. Gli aggressori possono provare a iniettare indicazioni malevole nel testo che viene riepilogato, facendo sì che il modello continui a seguire istruzioni nascoste dopo che la fonte originale è scomparsa. I difensori riducono questo rischio limitando ciò che viene preservato, separando il contenuto dell'utente dallo stato attendibile, rivedendo i riepiloghi alla ricerca di direttive indesiderate e registrando gli eventi di compattazione ad alto rischio. Considera il riepilogo come uno stato privilegiato, non solo come una comodità.