Un cyberattacco autonomo è una catena di attacco che un sistema di IA può pianificare, coordinare o eseguire con poca supervisione umana. Invece di una persona che sceglie manualmente ogni passaggio, il modello può aiutare con il riconoscimento, la scoperta delle vulnerabilità, la selezione degli exploit, la preparazione del payload e le azioni successive come la persistenza o il furto di dati. L'idea chiave è l'autonomia: la macchina non si limita a dare consigli, ma riduce la quantità di sforzo umano necessaria per portare avanti attività offensive.
Questo è importante perché può rendere gli attacchi più rapidi, meno costosi e più facili da scalare. Un sistema capace può aiutare gli aggressori a sondare i bersagli in modo continuo, adattarsi alle difese o combinare piccoli risultati in un percorso di intrusione più ampio. I difensori rispondono limitando l'accesso agli strumenti, isolando i modelli in sandbox, registrando e revisionando le azioni e richiedendo l'approvazione umana per i passaggi rischiosi. La difesa in profondità è importante perché il fallimento di un singolo controllo non dovrebbe permettere a un sistema di IA di trasformarsi in un attaccante operativo.