La rappresentazione dei dati è la forma strutturata utilizzata per codificare eventi o osservazioni del mondo reale come informazioni che un sistema informatico può archiviare ed elaborare. Può includere campi, etichette, categorie, timestamp, log o record API. La rappresentazione determina quali dettagli vengono acquisiti e in che modo i sistemi possono interpretarli.
Nella sicurezza dell'IA, la rappresentazione è importante perché un modello può valutare solo le informazioni che gli arrivano in una forma utilizzabile. Un campo mancante, una categoria troppo ristretta o una trasformazione con perdita di informazioni possono nascondere prove pertinenti senza causare un errore tecnico evidente. Gli aggressori possono anche sfruttare rappresentazioni inadeguate, per esempio creando input classificati in modo errato o in grado di eludere il rilevamento. Le misure di difesa includono l'esame degli schemi e delle trasformazioni dei dati, la documentazione dei limiti e della provenienza e la verifica che le prove importanti possano entrare nel flusso di lavoro ed essere sottoposte alla revisione umana.