La memoria dell'IA è un contesto memorizzato o uno stato storico che un sistema di IA usa per modellare le risposte successive. Può includere la cronologia delle conversazioni, le preferenze dell'utente, riepiloghi o registrazioni specifiche dell'applicazione e può essere archiviata in un database o gestita da una piattaforma di IA. La memoria è distinta dal modello stesso: modificare o sostituire un modello non comporta necessariamente il trasferimento delle informazioni né la riproduzione dello stesso comportamento.
La memoria è importante per la sicurezza perché può contenere informazioni sensibili e influire su ciò che il sistema rivela o fa. Negli attacchi, un sistema che recupera contenuti memorizzati non attendibili o creati in modo malevolo può essere manipolato e indotto a seguire istruzioni non sicure o a divulgare dati. I responsabili della difesa dovrebbero controllare ciò che viene salvato, applicare regole di accesso e conservazione e verificare il comportamento del recupero dei contenuti. Quando si cambia provider, è opportuno censire ed esportare gli schemi e le dipendenze della memoria, quindi convalidare che i controlli sulla privacy e i flussi di lavoro critici continuino a funzionare nel nuovo ambiente.