Il pregiudizio di genere è una distorsione sistematica che tratta le persone in modo diverso in base al genere o assegna loro ruoli, caratteristiche o valore diseguali. Nella sicurezza informatica, è importante perché gli strumenti di sicurezza e gli assistenti AI aiutano sempre più nelle assunzioni, nelle decisioni di accesso, nella moderazione dei contenuti, nell'assistenza agli utenti e nell'analisi delle minacce. Se questi sistemi apprendono schemi distorti dai dati di addestramento o dalle regole di policy, possono raccomandare azioni diverse, produrre spiegazioni non uniformi o classificare erroneamente le persone in modi che incidono su fiducia, sicurezza e opportunità.
Nelle attacchi reali, il pregiudizio di genere può essere sfruttato nel social engineering, nel phishing e nella disinformazione generando messaggi più convincenti che si allineano agli stereotipi su autorità, cura o ruoli lavorativi. Nelle difese, modelli distorti possono indebolire il rilevamento o la risposta trattando come più sospetti alcuni linguaggi, titoli di lavoro o comportamenti degli utenti rispetto ad altri. Poiché il problema spesso si nasconde dietro l'accuratezza media, i team dovrebbero testare gli output tra i gruppi, rivedere prompt e fonti dei dati e monitorare il comportamento del modello nel tempo.