I sistemi multi-agente sono progettazioni software in cui diversi agenti autonomi gestiscono ciascuno una parte di un compito, poi negoziano, si coordinano e si adattano alle condizioni locali. Invece di un singolo controllore centrale che prende ogni decisione, ogni agente può monitorare i propri dati, proporre azioni e scambiare messaggi con altri agenti per raggiungere un obiettivo condiviso.
Nella sicurezza informatica, i MAS sono importanti perché possono migliorare la resilienza e la velocità, ma creano anche nuovi percorsi di attacco. Nella produzione o in altri ambienti distribuiti, gli agenti possono regolare pianificazioni, percorsi o soglie in base agli input dei sensori. Se un attaccante falsifica la telemetria, manomette i messaggi o ottiene il controllo di un agente con privilegi eccessivi, il sistema può prendere decisioni sbagliate su larga scala. I difensori usano controlli di accesso, autenticazione dei messaggi, verifiche delle policy e registri di audit per mantenere il comportamento degli agenti contenuto e spiegabile. L'obiettivo chiave di sicurezza è consentire agli agenti di agire localmente senza permettere a un agente compromesso di sovrascrivere l'intero sistema.