La finalità prevista è il compito specifico che un sistema di IA è progettato a svolgere. Descrive come il sistema deve essere utilizzato, ad esempio per la stesura generale, l’assistenza clienti, il triage finanziario o il supporto contrattuale. Nel lavoro di sicurezza e conformità, questo è importante perché lo stesso modello può comportare rischi molto diversi a seconda del compito per cui viene impiegato.
Perché è importante: un chatbot usato per conversazioni informali di solito è soggetto a una governance meno rigorosa rispetto a uno che influenza decisioni su denaro, salute o questioni legali. Quando la finalità prevista si sposta verso consulenza o supporto decisionale, le organizzazioni possono avere bisogno di controlli più robusti, informative più chiare per gli utenti, revisione umana, registrazione dei log e una gestione dei dati più rigorosa. Gli aggressori e gli integratori negligenti possono sfruttare questa lacuna riproponendo uno strumento oltre l’uso approvato, creando esposizione della privacy, affidamento non sicuro o violazioni normative. I difensori quindi valutano non solo ciò che il modello può fare, ma ciò che è ufficialmente autorizzato a fare, perché la finalità prevista contribuisce a determinare il profilo di rischio del sistema e gli obblighi di conformità.