L'uso improprio della fiducia è una modalità di guasto in cui il comportamento utile, cortese o autorevole di un sistema porta le persone a farvi affidamento più di quanto dovrebbero. Nella sicurezza informatica, tale fiducia può essere sfruttata da bot di phishing, falsi operatori di supporto o assistenti AI che sembrano abbastanza sicuri di sé da persuadere gli utenti a condividere password, approvare azioni o divulgare dati sensibili. L'attacco spesso riesce non violando la crittografia, ma abusando della fiducia dell'utente nell'interfaccia.
Questo è importante perché molte decisioni di sicurezza dipendono dal giudizio umano. Se un chatbot, un portale di help desk o un flusso di lavoro automatizzato appare credibile, gli utenti possono saltare la verifica e accettare indicazioni non sicure. Le difese includono chiari confini di ruolo, controlli rigorosi dell'identità, accesso con il minimo privilegio, conferme per le azioni rischiose e l'escalation a un essere umano quando vengono rilevate incertezza o un impatto elevato. Nei sistemi AI, rifiuti espliciti e limiti visibili aiutano a prevenire l'eccessivo affidamento e a ridurre l'influenza dannosa.