Un problema di integrità è un problema di sicurezza in cui le informazioni vengono modificate in modo fuorviante senza diventare palesemente false. Il contenuto può essere riorganizzato, evidenziato, omesso, attenuato o incorniciato in modo che gli utenti traggano una conclusione diversa da quella che otterrebbero da una presentazione neutrale. Nella sicurezza informatica, l'integrità significa preservare il significato, la struttura e l'affidabilità previsti dei dati e degli output.
Questo è importante nei sistemi di IA, nei motori di ricerca, nella messaggistica e negli strumenti per le elezioni perché gli attaccanti non devono sempre inventare fatti; possono manipolare la rilevanza e l'inquadramento. Un chatbot può menzionare una opzione per prima, nasconderne un'altra o fornire dettagli diseguali, creando una persuasione sottile pur sembrando accurato. Le difese includono il controllo dell'ordine di output, la verifica dei livelli di recupero e ranking, la registrazione dei prompt e delle risposte e i test per individuare bias sistematici o prompt injection. In pratica, i controlli di integrità mirano a garantire che gli utenti ricevano le informazioni come previsto, non solo testo plausibile dal punto di vista fattuale.