Un budget di token per IA è una quantità limitata di utilizzo del modello assegnata a un team, un'applicazione o un flusso di lavoro. Può coprire i prompt, l'output generato e le azioni degli agenti, ed è di solito monitorato come costo, quota o limite di frequenza. In pratica, i token sono le unità che un modello conta mentre elabora il testo, quindi un budget limita quanto un sistema di IA può ragionare, scrivere, chiamare strumenti o ripetere cicli su un'attività.
Nella sicurezza informatica, i budget di token sono importanti perché controllano la spesa, riducono gli abusi e limitano i danni se un agente viene compromesso. Gli attaccanti possono sprecare un budget con un flooding di prompt, attivare costose catene di strumenti o sfruttare i cicli degli agenti per creare condizioni di denial-of-wallet. I difensori usano i budget per contenere l'automazione fuori controllo, separare le attività di sicurezza ad alta fiducia dall'uso aziendale generale e applicare il principio del privilegio minimo agli agenti di IA. Un budget stretto può anche rivelare un comportamento sospetto quando l'utilizzo aumenta in modo inatteso.