Nei sistemi di IA, i token sono piccole unità di testo che un modello legge e genera. Un token può essere un'intera parola, parte di una parola, punteggiatura o un altro frammento prodotto dal tokenizer del modello. I modelli non elaborano il testo grezzo carattere per carattere; lavorano in base al conteggio dei token, il che rende i token l'unità fondamentale per misurare la dimensione dell'input, la dimensione dell'output e l'uso di calcolo.
I token sono importanti nella sicurezza informatica perché influenzano i costi, i limiti di frequenza e il rilevamento degli abusi. Un attaccante può forzare un elevato consumo di token con prompt lunghi, tentativi ripetuti o cicli dell'agente, creando picchi di costo simili a un denial-of-service. I difensori monitorano l'uso dei token per individuare comportamenti anomali, applicare quote e verificare quali flussi di lavoro hanno consumato la capacità del modello. Nei sistemi di fatturazione dell'IA, i registri dei token aiutano anche a riconciliare gli addebiti e a rilevare manomissioni o metriche duplicate. Questo termine è diverso dai token di autenticazione, che sono credenziali usate per dimostrare l'identità.