I token di input sono le parti di testo inviate a un modello prima che generi una risposta. Includono i prompt dell'utente, le istruzioni di sistema, il contesto recuperato e qualsiasi dato copiato che l'applicazione trasmette. Nella maggior parte delle piattaforme di IA, i token di input influenzano direttamente la latenza e la fatturazione: più testo invii, più lavoro di elaborazione deve svolgere il modello.
Nella sicurezza informatica, i token di input sono importanti perché gli aggressori possono abusarne. Prompt molto lunghi, tentativi ripetuti o prompt stuffing possono far aumentare i costi e rallentare un servizio, creando un rischio di denial-of-wallet. Il contenuto sensibile incluso nei token di input può inoltre essere esposto nei log o negli strumenti a valle se gli input non vengono filtrati. I difensori riducono questo rischio con limiti di input rigorosi, troncamento, caching, redazione e controlli di frequenza. Monitorare il volume dei token è utile per individuare utilizzi anomali e per mantenere i sistemi IA prevedibili, sicuri e convenienti.