L'ML sul dispositivo è l'apprendimento automatico che viene eseguito localmente su un telefono, un laptop o un altro endpoint invece di inviare i dati a un server remoto per l'analisi. Il dispositivo esegue da solo l'inferenza, il che può ridurre la latenza, limitare la dipendenza dalla rete e mantenere i contenuti sensibili più vicini all'utente.
Nella sicurezza informatica, questo approccio è utile per difese che preservano la privacy, come il rilevamento delle truffe, il filtraggio del malware o i controlli biometrici. Un modello locale può ispezionare messaggi, file o modelli di comportamento senza esporre alla nube una quantità altrettanto elevata di dati grezzi. Il compromesso è che il modello deve adattarsi a hardware limitato e rimanere comunque accurato tra lingue, formati e trucchi degli aggressori. Gli aggressori possono cercare di eludere il modello con l'offuscamento o con modifiche nel testo, quindi l'ML sul dispositivo funziona meglio come un livello in una difesa più ampia, non come sostituto completo della cautela dell'utente o del monitoraggio lato server.