Il pensiero preservato è un controllo di sicurezza che mantiene protetto dal comportamento dell'utente il contesto interno del ragionamento di un modello tramite un'API. In pratica, significa che i chiamanti non dovrebbero poter modificare, cancellare o estrarre direttamente lo stato di lavoro privato del modello mentre una richiesta è in esecuzione. L'obiettivo è preservare l'integrità della deliberazione nascosta del modello, in modo che l'output rifletta il comportamento previsto dal sistema e non manomissioni introdotte da un attaccante.
Questo è importante nella sicurezza informatica perché il contesto interno può diventare un bersaglio per prompt injection, esfiltrazione dei dati e abuso dei flussi di lavoro. Un attaccante può cercare di costringere un agente a rivelare prompt nascosti, tracce di ragionamento o piani degli strumenti, oppure a modificare quel contesto in modo che le fasi successive si comportino in modo non sicuro. Il pensiero preservato è una misura di difesa in profondità: riduce una via di attacco, ma non sostituisce la sandbox, il principio del privilegio minimo, la convalida dell'output o la revisione umana per azioni sensibili.