L'entropia dei token è un modo sintetico per indicare un uso dei token che produce poco output utile, di solito perché le stesse idee, gli stessi prompt o le stesse chiamate agli strumenti vengono ripetuti. Nei sistemi di IA, un'elevata entropia dei token significa che il sistema sta spendendo più capacità di calcolo e budget di quanto il lavoro giustifichi.
Nella sicurezza informatica, questo è importante perché l'IA viene usata sempre più spesso per il triage, il rilevamento e il supporto agli analisti. Modelli di token dispendiosi possono rivelare loop di prompt, una progettazione del contesto scadente o agenti eccessivamente automatizzati che prendono decisioni inutili. In uno stack difensivo, monitorare l'entropia dei token aiuta i team a individuare flussi di lavoro fuori controllo, ridurre i costi e rafforzare i controlli su strumenti e autorizzazioni. Negli attacchi, un avversario può cercare di forzare chiamate ripetute al modello, gonfiare l'utilizzo o innescare un comportamento rumoroso degli agenti per esaurire le risorse e distrarre i difensori. Il ricambio di token a basso valore è quindi sia un problema di efficienza sia un segnale di sicurezza.