Una funzione obiettivo è il target matematico che un sistema di machine learning cerca di minimizzare o massimizzare durante l'addestramento. Può rappresentare il tasso di errore, il costo, la latenza, il rischio o una combinazione ponderata di più obiettivi. Il modello apprende regolando i propri parametri per migliorare quel punteggio, quindi la funzione obiettivo definisce di fatto che cosa significhi "successo".
Nel campo della sicurezza informatica, le funzioni obiettivo sono importanti perché modellano sia le difese sia gli attacchi. Un difensore può tarare un rilevatore per ridurre i falsi negativi, i falsi positivi o il rischio complessivo, e una cattiva funzione obiettivo può far sembrare un sistema accurato pur facendogli mancare comportamenti pericolosi. Anche gli aggressori sfruttano gli obiettivi: il malware può cercare di eludere un classificatore, le campagne di phishing possono ottimizzare i tassi di clic e il machine learning avversario può cercare input che costringano un modello verso l'output sbagliato. Quando l'obiettivo è ristretto o specificato in modo errato, il sistema può ottimizzare la metrica senza raggiungere l'obiettivo di sicurezza. Per questo i team di sicurezza esaminano con la stessa attenzione del modello stesso i target di addestramento, le soglie e le regole di post-elaborazione.