ExploitBench è un benchmark di cybersecurity basato su IA che misura quanto bene un sistema riesca a avanzare attraverso le fasi dello sviluppo di exploit, anziché limitarsi a individuare un bug. Invece di un semplice superamento o fallimento, assegna un punteggio ai progressi, dai segnali iniziali come un crash o una corruzione della memoria fino a risultati più avanzati come l'esecuzione affidabile di codice. Questo lo rende un test più realistico della capacità offensiva.
Nella cybersecurity, questo è importante perché lo sviluppo di exploit è ciò che trasforma una vulnerabilità in un attacco. Un punteggio elevato può suggerire che un modello possa aiutare ad automatizzare parti della ricerca di vulnerabilità, del chaining di exploit o della creazione di proof of concept. I difensori usano benchmark come questo per valutare il rischio, progettare controlli più sicuri per i modelli e decidere quando aggiungere sandboxing, strumenti con restrizioni, registrazione dei log e revisione umana. In pratica, ExploitBench è più utile come strumento di valutazione per il red teaming e il contenimento, non come prova che i bersagli reali siano già compromessi.