Il controllo algoritmico è l'uso del processo decisionale automatizzato per classificare, filtrare, dare priorità o distribuire i contenuti. Invece di una persona che sceglie cosa viene mostrato per primo o spinto più lontano, il software applica regole, modelli o sistemi di punteggio per determinare visibilità e portata. Nella sicurezza informatica, questo è importante perché il controllo automatizzato influenza ciò che vedono gli utenti, ciò che notano i difensori e la velocità con cui si diffonde il contenuto malevolo.
Gli aggressori possono abusare del controllo algoritmico manipolando i sistemi di classificazione, inondando i feed con post di bassa qualità o ottimizzando i contenuti per sfruttare la logica di raccomandazione e le lacune nella moderazione. Anche i difensori vi fanno affidamento: gli strumenti di sicurezza usano algoritmi per ordinare gli avvisi, bloccare il traffico sospetto e portare all'attenzione gli eventi ad alto rischio per la revisione. La sfida per la sicurezza è che i sistemi automatizzati possono essere rapidi e scalabili, ma nascondono anche la logica decisionale e possono essere manipolati se i loro input, le soglie o i dati di addestramento sono deboli. Le buone pratiche includono la registrazione delle decisioni, i test contro gli abusi, l'aggiunta della supervisione umana e la revisione del modo in cui il sistema modifica la visibilità nel tempo.