Un riassuntore email AI è uno strumento che utilizza un modello linguistico per condensare lunghe conversazioni email in riepiloghi brevi e leggibili. Può elaborare i contenuti dei messaggi, le risposte quotate e, a volte, i metadati per produrre una rapida panoramica per utenti, team di supporto o dirigenti.
Nel campo della cybersecurity, questo è importante perché il riassuntore deve gestire contenuti non affidabili. Se un'email controllata da un attaccante viene fornita al modello senza una rigorosa separazione tra dati e istruzioni, la conversazione può contenere payload di prompt injection che influenzano il riepilogo o indirizzano gli strumenti collegati. I difensori riducono questo rischio trattando le email come input non affidabile, mantenendo separate le istruzioni di sistema, rimuovendo i contenuti nascosti o non visualizzati, limitando eventuali azioni a valle al privilegio minimo e verificando le decisioni critiche prima di agire sui riepiloghi generati dall'AI.