L'incertezza è il margine residuo di dubbio quando si interpreta la valutazione, il punteggio o la previsione di un sistema di IA. Nella sicurezza informatica, questo aspetto è importante perché gli output del modello sono raramente verità assolute: un classificatore di phishing può indicare che un'email ha il 92% di probabilità di essere malevola, ma ciò lascia comunque spazio a errori, falsi positivi e falsi negativi. Più un sistema viene usato per il rilevamento, la triage o la risposta automatizzata, più è importante capire quanta fiducia esista davvero dietro il risultato.
Nelle difese reali, l'incertezza influenza il modo in cui gli alert vengono gestiti. Le segnalazioni ad alto rischio possono essere inviate agli analisti invece di essere bloccate automaticamente, e le previsioni a bassa confidenza possono essere trattate come segnali anziché come decisioni. Anche gli aggressori possono sfruttare l'incertezza creando input che cadono vicino alla soglia decisionale di un modello, causando risultati incoerenti o nascondendo attività malevola all'interno di contenuti ambigui. Una buona pratica di sicurezza, quindi, tratta le previsioni dell'IA come indicazioni, le combina con regole e revisione umana e monitora dove il modello è meno certo.