Una citazione è un riferimento a una fonte usata per supportare una risposta generata dall'IA. Nei sistemi chatbot, le citazioni di solito rimandano a pagine web, documenti o frammenti recuperati durante la generazione della risposta. Aiutano gli utenti a verificare da dove il modello ha ottenuto le informazioni e possono mostrare se la risposta è fondata su prove reali o solo sulla memoria del modello.
Le citazioni sono importanti nella sicurezza informatica perché influenzano fiducia, provenienza e verificabilità. Una fonte citata non è automaticamente corretta: gli aggressori possono pubblicare pagine fuorvianti, ottimizzare i contenuti per il recupero o incorporare istruzioni che influenzano ciò che un sistema mostra. I difensori quindi verificano il materiale citato, assegnano maggiore priorità alle fonti affidabili e confrontano più riferimenti prima di accettare una risposta. Nei deployment sicuri, le citazioni sono considerate un punto di partenza per la convalida, non una prova di verità.