Un membership inference attack è un attacco alla privacy che cerca di determinare se un record specifico è stato usato per addestrare un modello di machine learning. L'attaccante confronta gli output del modello, i punteggi di confidenza o il comportamento su input simili e cerca segnali che suggeriscano che l'esempio target sia stato "visto" durante l'addestramento.
Questo è importante perché i dati di addestramento possono includere informazioni personali, sensibili o proprietarie. Se un modello rivela che un record faceva parte del suo dataset, può esporre fatti privati o confermare la presenza dei dati di una persona in un'applicazione. I difensori usano il membership inference testing per misurare il rischio per la privacy, soprattutto dopo il retraining, il fine-tuning o la machine unlearning. Le mitigazioni comuni includono la limitazione del livello di dettaglio degli output, la riduzione dell'overfitting, l'uso della differential privacy e il controllo del fatto che il comportamento del modello continui a rivelare la membership nel training set.