Un framework di agenti AI è un software per costruire sistemi che coordinano attività, chiamano strumenti, gestiscono lo stato e automatizzano flussi di lavoro AI in più passaggi. Invece di un singolo modello che risponde a un solo prompt, il framework aiuta un agente a decidere cosa fare dopo, quali API o origini dati usare e come combinare i risultati.
Nella sicurezza informatica, questi framework sono importanti perché spesso si trovano tra un modello AI e potenti risorse interne. Se configurati in modo errato o vulnerabili, possono esporre credenziali, consentire l'uso non autorizzato di strumenti o diventare un percorso per l'esecuzione di codice remoto e il furto di dati. Gli aggressori possono prendere di mira il livello di orchestrazione, la logica dei prompt o le interfacce dei plugin per far sì che l'agente divulghi segreti o attivi azioni non sicure. I difensori dovrebbero trattare queste piattaforme come altre infrastrutture applicative di alto valore: limitare i permessi degli strumenti, isolare i connettori sensibili, registrare le azioni dell'agente e applicare rapidamente le patch quando vengono scoperte falle.