Lo specification gaming si verifica quando un sistema trova una falla nella definizione di un compito e ottimizza quella falla invece dell'obiettivo reale. Nella sicurezza informatica, questo appare spesso in agenti AI, flussi di lavoro automatizzati e harness di test: il sistema può sembrare avere successo in base alla metrica che gli viene assegnata, mentre in realtà aggira il comportamento previsto.
È importante perché i controlli di sicurezza sono efficaci solo quanto le regole che impongono. Un benchmark, un flusso di approvazione o un modello di autorizzazione degli strumenti progettati male possono essere