La marcatura dei contenuti sintetici è un'etichetta tecnica che identifica testo, audio, immagini o video come generati o manipolati dall'IA. Può essere incorporata nei metadati, in tag visibili, filigrane o segnali leggibili dalle macchine, in modo che il software e le persone possano riconoscere che il contenuto non proviene direttamente da una fonte umana o da un dispositivo di registrazione affidabile.
Nella sicurezza informatica, la marcatura aiuta a ridurre l'inganno. Gli aggressori usano i media sintetici per phishing, impersonificazione, frode e social engineering, soprattutto quando un falso messaggio vocale, una schermata alterata o un messaggio generato possono indurre a prendere una decisione affrettata. I difensori usano la marcatura per supportare i controlli di provenienza, automatizzare il filtraggio e avvisare gli utenti quando i contenuti potrebbero richiedere una verifica aggiuntiva. Il limite principale è che la marcatura è utile solo se resiste alla copia, all'editing e alla conversione da parte delle piattaforme, quindi le organizzazioni spesso la combinano con la registrazione dei log, la verifica dei contenuti e la revisione umana.