Tree-of-Thoughts (ToT) è un metodo di prompting che chiede a un modello linguistico di esplorare diversi possibili percorsi di ragionamento, attribuire loro un punteggio o confrontarli, e poi scegliere la risposta migliore. Invece di seguire una singola catena lineare di passaggi, il modello si dirama in alternative, il che può migliorare le prestazioni nella pianificazione, nell'analisi e in altri compiti complessi.
Nella sicurezza informatica, ToT è importante perché i modelli vengono sempre più usati per redigere policy, riassumere log, suggerire rimedi o guidare flussi di lavoro che utilizzano strumenti. Il ragionamento ramificato può rendere gli output più robusti, ma aumenta anche la superficie di attacco se contenuti non attendibili influenzano il percorso che il modello favorisce. Il prompt injection può indirizzare un flusso di lavoro ToT verso conclusioni non sicure, esposizione di dati o azioni errate sugli strumenti. I difensori usano ToT in modo più sicuro separando le istruzioni affidabili dagli input non affidabili, limitando gli strumenti e convalidando gli output strutturati prima di qualsiasi effetto secondario a valle.


