La convalida dell'integrità è il processo di conferma che i pesi del modello, i dati di addestramento, i prompt, le dipendenze e i file di configurazione corrispondano a uno stato attendibile previsto. Di solito si basa su checksum, hash, firme digitali o baseline verificate per rilevare modifiche non approvate. Nei sistemi di IA, questo è importante perché una piccola alterazione può cambiare il comportamento senza compromettere il software.
I difensori usano la convalida dell'integrità per individuare manomissioni, compromissioni della supply chain, dati avvelenati o derive accidentali della configurazione prima che il sistema sia nuovamente considerato attendibile. È particolarmente importante durante il ripristino: riportare online un servizio di IA non basta se il modello o i suoi input sono stati modificati silenziosamente. Negli attacchi, gli avversari possono sostituire file, alterare i prompt o modificare le impostazioni API per orientare gli output. La convalida dell'integrità aiuta a dimostrare se il sistema è ancora quello che si intendeva eseguire.