Una regola di arresto è una condizione predefinita che impone di mettere in pausa o sospendere un sistema quando l’incertezza, il rischio o il malfunzionamento superano una soglia accettabile. Trasforma una generica preoccupazione per la sicurezza in un chiaro criterio operativo, aiutando gli utenti a non continuare a fare affidamento su uno strumento quando i suoi risultati potrebbero non essere sicuri.
Nella cybersicurezza, le regole di arresto possono riguardare il monitoraggio automatizzato, la risposta agli incidenti o le decisioni assistite dall’IA. Per esempio, un flusso di lavoro potrebbe sospendere le azioni automatizzate quando un sistema rileva segnali in conflitto, perde le misure di protezione necessarie o si comporta in modo imprevisto, per poi sottoporre il caso alla revisione umana o ricorrere a una procedura alternativa documentata. Nell’IA clinica, una regola di arresto può contribuire a preservare il giudizio indipendente, rendendo più facile interrompere l’automazione quando aumentano l’incertezza o il rischio. La regola dovrebbe specificare chi può mettere in pausa il sistema e come proseguire il lavoro in sicurezza.