I permessi legittimi sono i diritti di accesso concessi a un agente o a un sistema software per svolgere le attività previste. A un agente IA potrebbe essere consentito leggere le email, aprire file, inviare messaggi o usare strumenti collegati. Questi diritti sono legittimi perché sono stati autorizzati; il rischio è che l’agente li usi in modi non voluti dall’utente.
Durante un attacco, istruzioni ostili nascoste in un’email, un documento o una pagina web possono manipolare un agente inducendolo a usare l’accesso di cui già dispone per divulgare dati, avviare flussi di lavoro o eliminare file. L’attaccante potrebbe non aver bisogno di violare il sistema né di ottenere nuovi privilegi. Le misure di difesa includono concedere agli agenti solo i permessi minimi necessari, trattare i contenuti esterni come non attendibili, registrare le azioni e richiedere una conferma indipendente per le operazioni sensibili.