Il dissenso progettato è uno schema di flusso di lavoro che mantiene intenzionalmente visibili il giudizio indipendente e il disaccordo, invece di spingere le persone e i sistemi di IA verso un rapido consenso. Nell’IA clinica, ciò può significare chiedere al sistema di prendere in considerazione spiegazioni alternative, dichiarare l’incertezza o mettere in discussione l’ipotesi iniziale di un medico.
Questo è importante perché la distorsione da automazione può indurre gli utenti a fidarsi eccessivamente dei consigli delle macchine, mentre un modello compiacente può ripetere il punto di vista dell’utente anziché valutarlo in modo indipendente. Un flusso di lavoro che lascia spazio alle contestazioni può aiutare a individuare gli errori prima che vengano accettati o si agisca sulla loro base. Tra le misure di protezione pratiche possono figurare richieste di esaminare alternative, regole chiare per interrompere il processo e una procedura alternativa per proseguire senza l’IA. Il dissenso progettato è un approccio alla gestione del rischio, non una prova che un sistema specifico sia accurato o che gli errori verranno prevenuti.