Uno strumento offensivo assistito dall'IA utilizza l'apprendimento automatico o un modello linguistico di grandi dimensioni per supportare attività come la ricognizione, la generazione di script o la pianificazione delle fasi di un attacco. Può velocizzare le attività ripetitive e aiutare ad adattare le tecniche, ma il suo utilizzo non significa che un attacco sia completamente autonomo.
Negli attacchi informatici, questi strumenti possono aiutare gli operatori a testare servizi esposti, creare o modificare script e ripetere più rapidamente le sequenze di attacco. Questo può ridurre il tempo a disposizione dei difensori per reagire, perciò sono importanti il monitoraggio, i controlli degli accessi e le indagini tempestive. I difensori dovrebbero anche valutare con attenzione gli strumenti di sicurezza basati sull'IA: verificare la provenienza del software, limitare i privilegi e l'esposizione alla rete e isolare gli ambienti di test dai sistemi di produzione e dalle credenziali.