L'orchestrazione degli strumenti è il coordinamento di più strumenti, azioni o servizi da parte di un sistema o agente automatizzato per completare un'attività. Invece di fare tutto da solo, il sistema decide quale strumento chiamare, in quale ordine e con quali input. Negli agenti di IA, questo può includere comandi di terminale, API, database, archivi di memoria e fasi di workflow.
Nella sicurezza informatica, l'orchestrazione degli strumenti è importante perché trasforma un modello da generatore di testo a livello di azione. Se i permessi sono troppo ampi, un attaccante può abusare del livello di orchestrazione per concatenare ricognizione, esecuzione di comandi, accesso ai dati e persistenza con poca supervisione umana. I difensori cercano sequenze insolite di strumenti, richieste di autorizzazione ripetute o comandi che non corrispondono all'attività dichiarata. Una buona protezione significa privilegio minimo, punti di approvazione per le azioni rischiose, registrazione robusta e una chiara separazione tra ragionamento ed esecuzione. Se controllata correttamente, l'orchestrazione può aiutare ad automatizzare una risposta sicura; se controllata male, può amplificare un attacco.