Un checkpoint è un punto predefinito in un processo in cui il lavoro si interrompe per una revisione aggiuntiva, test o autorizzazione prima di proseguire. Nella sicurezza informatica, i checkpoint aiutano a impedire che modifiche non sicure, azioni non autorizzate o automazioni rischiose vadano avanti senza un controllo attento.
I checkpoint sono importanti perché creano punti di applicazione dell'enforcement in sistemi che altrimenti funzionano in modo continuo. I difensori li usano nei rilasci di software sicuri, nei flussi di approvazione degli accessi, nelle valutazioni dei modelli e nei flussi di lavoro con privilegi elevati. Nella sicurezza dell'IA, un checkpoint può attivare test più approfonditi, revisione umana, sandboxing o un arresto della scalata quando un sistema supera una soglia di capacità. Gli attaccanti possono cercare di aggirare o superare rapidamente i checkpoint sfruttando processi di approvazione deboli, ma checkpoint ben progettati riducono la probabilità che un'azione pericolosa venga distribuita, eseguita o riceva l'accesso senza supervisione.