L'inferenza delle emozioni è la stima automatizzata dell'umore o dello stato emotivo di una persona a partire da segnali come il movimento del volto, lo sguardo, i modelli di linguaggio e il tono della voce. È una forma di calcolo affettivo: il sistema non si limita a riconoscere parole o identità, ma cerca di inferire lo stato interno dal comportamento. In termini di sicurezza, questo lo rende altamente sensibile perché il risultato è un profilo derivato, non un semplice input grezzo.
Questo è importante perché l'emozione inferita può influenzare la moderazione, il punteggio di rischio, i controlli sull'età e le decisioni di accesso. Nei prodotti reali, può funzionare continuamente durante una chiamata o una sessione di registrazione, creando problemi di privacy e conservazione anche quando l'utente non digita mai nulla di sensibile. Gli aggressori possono anche cercare di eludere o distorcere questi modelli con mascheramento, media sintetici o modifiche avversariali all'espressione e alla voce. I difensori hanno bisogno di consenso chiaro, limiti rigorosi di conservazione e una validazione attenta, perché i falsi positivi possono attivare revisioni o blocchi inutili.