Una lacuna di moderazione è un ritardo o una debolezza nel rivedere e intervenire su contenuti dannosi, messaggi offensivi o account malevoli. Nella sicurezza informatica, è importante perché molti attacchi non richiedono malware o una falla software; si basano sul rimanere visibili abbastanza a lungo da ingannare le vittime. Se gli account sospetti non vengono rilevati rapidamente, i truffatori possono inviare link di phishing, costruire fiducia e ripetere gli abusi prima che i controlli reagiscano.
Le difese efficaci contro le lacune di moderazione combinano il rilevamento automatico con la revisione umana. Le piattaforme usano segnali di reputazione, rilevamento di profili duplicati, analisi del comportamento, filtri per parole chiave e segnalazioni degli utenti per individuare precocemente gli abusi. Hanno anche bisogno di flussi di lavoro rapidi per la rimozione, limitazione degli account e percorsi di escalation chiari per i casi ad alto rischio. Quando la moderazione è lenta o incoerente, gli attaccanti ottengono più tempo, più vittime e una superficie di attacco più ampia.