La fedeltà è il grado in cui una spiegazione corrisponde al processo interno effettivo del modello o al suo percorso decisionale. Nei sistemi di IA, specialmente quelli che generano chain-of-thought o giustificazioni in linguaggio naturale, una risposta può sembrare logica senza riflettere accuratamente il motivo per cui il modello l'ha scelta. Una spiegazione fedele non è solo plausibile; è causalmente allineata ai fattori che hanno modellato l'output.
Questo è importante nella sicurezza informatica perché spiegazioni non fedeli possono nascondere sensibilità ai prompt, bias o manipolazione. Un attaccante può influenzare un modello con segnali di autorità, contesto fuorviante o prompt creati ad arte, mentre la motivazione visibile continua a sembrare pulita e neutrale. I difensori dovrebbero verificare se le spiegazioni seguono il comportamento sotto prompt controfattuali, perturbazioni dell'input e variazioni demografiche o basate sul ruolo. Per gli usi ad alto impatto, la fedeltà supporta l'auditabilità, la revisione degli incidenti e una supervisione umana più sicura; senza di essa, una spiegazione convincente può essere poco più di una storia rifinita.