L'AI ancorata alle fonti è un sistema di IA che risponde usando materiale fornito dall'utente, come documenti, note, pagine web o trascrizioni, e spesso collega le proprie affermazioni a tali fonti. Invece di basarsi solo sui dati di addestramento generali del modello, considera il contenuto fornito come la principale base di evidenza per la risposta.
Questo è importante nella cybersecurity perché l'ancoraggio può migliorare la trasparenza, ma non rende automaticamente affidabile il sistema. Se un attaccante può caricare documenti alterati, inserire istruzioni dannose o fornire prove false, l'AI potrebbe riassumere o amplificare input errati. Nelle difese reali, l'AI ancorata alle fonti dovrebbe essere affiancata da igiene delle fonti, controlli degli accessi, revisione delle citazioni e verifiche di provenienza. I team di sicurezza monitorano anche il prompt injection all'interno dei documenti e la condivisione eccessiva quando i notebook si sincronizzano tra account o servizi cloud.