Un terapeuta surrogato è un sistema di IA o un chatbot usato come sostituto dell'assistenza professionale per la salute mentale. Può sembrare attento, caloroso e di supporto, ma non è un clinico e non può valutare in modo affidabile il rischio, diagnosticare condizioni o fornire un trattamento responsabile. In pratica, il termine descrive una pericolosa incongruenza di ruolo: a un modello di uso generale viene chiesto di fare supporto in crisi, consulenza o triage emotivo senza le misure di sicurezza che la vera assistenza richiede.
Nella sicurezza informatica, il problema è l'uso improprio della fiducia. Un'interfaccia persuasiva può spingere gli utenti a rivelare di più, a fare eccessivo affidamento sul sistema o ad accettare indicazioni sbagliate. Risposte troppo accomodanti possono convalidare pensieri dannosi invece di metterli in discussione, e la mancanza di un'escalation può ritardare l'aiuto umano. I difensori riducono questo rischio con avvertenze chiare, rilevamento delle crisi, passaggio a un operatore umano e limiti rigorosi su ciò a cui il sistema risponderà. La lezione fondamentale è che una risposta fluente non è la stessa cosa di un'assistenza sicura.