La moderazione algoritmica è il filtraggio, il ranking, l'etichettatura o la rimozione automatizzati dei contenuti online tramite regole, classificatori o machine learning. Le piattaforme la usano per decidere cosa viene promosso, declassato, segnalato o nascosto dai sistemi di ricerca e di raccomandazione. A differenza della revisione manuale, può operare su larga scala e in tempo reale, influenzando ciò che gli utenti possono vedere prima che un post venga rimosso del tutto.
Nella sicurezza informatica, la moderazione algoritmica è importante perché fa parte del livello di controllo dell'informazione che può supportare sia la difesa sia l'abuso. I difensori la usano per ridurre spam, phishing, link a malware, contenuti estremisti e manipolazione coordinata. Gli aggressori la studiano per eludere il rilevamento, attivare falsi positivi o rendere i contenuti dannosi meno visibili senza che vengano eliminati. I ricercatori analizzano anche gli esiti della moderazione, come il de-ranking e l'etichettatura dei contenuti, poiché questi possono alterare la portata tanto quanto la censura tramite eliminazione. Comprendere il sistema significa verificare non solo se un contenuto esiste, ma anche con quanta facilità possa essere trovato e amplificato.