La profilazione tramite IA consiste nel raggruppare o valutare automaticamente le persone sulla base di caratteristiche o comportamenti dedotti dai dati. I sistemi possono analizzare attività, registri o altre tracce digitali per assegnare categorie, punteggi o previsioni. Questi risultati possono influire sul modo in cui le persone vengono valutate o trattate.
Nella cybersicurezza e nella governance digitale, la profilazione è rilevante perché può rendere più incisive la sorveglianza e le decisioni automatizzate. Nelle applicazioni concrete, le classificazioni possono orientare le valutazioni del rischio o le decisioni di accesso, ma i profili inesatti o opachi possono essere difficili da contestare e rafforzare presupposti ingiusti. Le misure di protezione includono limitare la raccolta dei dati, verificare la presenza di errori e distorsioni, documentare come vengono creati i profili e richiedere un'effettiva revisione umana per le decisioni importanti.