KYA, o Know Your Agent, è un controllo di sicurezza proposto per i sistemi di AI che operano con autorità delegata. Pone tre domande fondamentali: da dove proviene l'agente, cosa è autorizzato a fare e il suo livello di fiducia è cambiato da quando è stato approvato? In pratica, KYA combina verifica dell'identità, limiti di autorizzazione e monitoraggio continuo per agenti autonomi o semi-autonomi.
Questo è importante perché gli agenti AI possono eseguire codice, interrogare strumenti, spostare dati e attivare flussi di lavoro alla velocità delle macchine. Se un attaccante dirotta un agente, sostituisce il suo modello, inserisce istruzioni malevole o amplia i suoi permessi, la compromissione può propagarsi più rapidamente di quanto un ciclo di revisione umana possa rilevarla. I difensori possono applicare KYA assegnando credenziali specifiche per l'agente, facendo rispettare il principio del minimo privilegio, registrando ogni azione e rivalidando la fiducia dopo aggiornamenti, modifiche alle policy o comportamenti sospetti. Negli attacchi, il punto debole è spesso una fiducia presa in prestito; nella difesa, KYA mira a rendere quella fiducia esplicita, limitata e verificabile.