Un AI pentest è un penetration test che utilizza l'intelligenza artificiale per assistere nelle attività di sicurezza offensiva. L'AI può aiutare con lavori ripetitivi come prendere appunti, rivedere i log, enumerare gli asset, riconoscere modelli o generare idee di test, mentre un tester umano decide cosa è valido, sicuro e merita di essere approfondito. È meglio intenderlo come un amplificatore della copertura, non come un sostituto del giudizio esperto.
Questo è importante perché molte debolezze sono sottili e dipendono dal contesto. L'AI può aiutare a individuare vulnerabilità nascoste nelle web app, nelle API o nei sistemi guidati dall'AI, ma può anche non rilevare difetti di logica di business, percorsi di abuso concatenati o rischi che richiedono il contesto dell'ambiente. Negli attacchi e nelle difese reali, tecniche simili compaiono quando gli avversari automatizzano la ricognizione o sondano i flussi di lavoro dell'AI con prompt injection e abuso degli strumenti, mentre i difensori usano il testing assistito dall'AI per esaminare più superficie, documentare i risultati e verificare che gli strumenti collegati rispettino i limiti di ambito e di privilegio.