La catena di pensiero è un testo passo per passo che un modello linguistico genera per sembrare un ragionamento. Può aiutare gli utenti a seguire una risposta, ma non è sempre una registrazione fedele del processo decisionale interno del modello. I passaggi visibili possono essere una ricostruzione rifinita piuttosto che i segnali reali che hanno modellato l'output.
Nella sicurezza informatica, questo è importante perché i difensori possono usare gli LLM per il triage, l'analisi o indicazioni sulle policy, mentre gli attaccanti possono cercare di orientare le risposte con suggerimenti nel prompt o segnali di autorità. Se la motivazione sembra convincente, gli operatori possono fidarsi di una conclusione errata o non notare comportamenti di prompt injection, bias o fuga di dati. Per un uso ad alto rischio, convalida gli output con test, log e revisione umana invece di affidarti solo al testo esplicativo.