L'inversione degli embedding è un tentativo di recuperare informazioni sull'input originale a partire dal suo embedding numerico. Gli embedding rappresentano i contenuti come vettori per attività come la ricerca per similarità, ma non sono automaticamente anonimizzati: a seconda del modello, dei dati e del metodo, un aggressore potrebbe dedurre o ricostruire parte del testo di origine o alcuni dettagli sensibili. I risultati variano e l'inversione non è un metodo universale per decodificare qualsiasi embedding.
Nel campo della sicurezza informatica, questo aspetto è importante quando gli embedding contengono materiale personale, riservato o comunque sensibile in un database vettoriale o in una pipeline di IA. Considerate gli embedding come dati potenzialmente sensibili: riducete al minimo i contenuti indicizzati, limitate l'accesso, isolate i tenant e applicate controlli di conservazione e cancellazione ai vettori, oltre che ai documenti di origine. Nei sistemi di generazione aumentata tramite recupero (RAG), un'autorizzazione debole può inoltre esporre i passaggi originali attraverso la ricerca, senza alcuna inversione. Chi si occupa della difesa dovrebbe proteggere sia le rappresentazioni memorizzate sia i percorsi di recupero che le utilizzano.