L’autonomia degli studenti è la capacità di chi apprende di compiere scelte significative su come studiare, quali argomenti o fonti approfondire e come affrontare l’apprendimento. È importante perché l’istruzione non consiste solo nel portare a termine compiti: gli studenti hanno anche bisogno di opportunità per sviluppare capacità di giudizio e indipendenza.
Nei sistemi educativi basati sull’IA, l’autonomia può essere influenzata quando il software consiglia attività, seleziona materiali o monitora i progressi. I suggerimenti possono favorire l’apprendimento, ma decisioni opache o automatiche possono indirizzare gli studenti senza che ne siano consapevoli o abbiano dato il proprio consenso. Tra le misure di tutela pratiche vi sono rendere chiare le azioni del sistema, limitare la raccolta dei dati degli studenti, consentire a studenti e docenti di contestare o ignorare i suggerimenti e verificare se il sistema favorisce la comprensione anziché il semplice completamento dei compiti.