Una tassonomia delle minacce AI è una classificazione strutturata dei modi in cui gli avversari possono abusare dei sistemi AI, dei modelli, dei prompt, degli agenti e dell'infrastruttura circostante. Raggruppa i rischi in base al comportamento piuttosto che a un singolo prodotto o fornitore, rendendo più facile confrontare minacce come l'injection dei prompt, il furto del modello, la fuga di dati, l'abuso degli strumenti e l'auto-replicazione.
Questo è importante perché i sistemi AI falliscono in modi diversi rispetto al software tradizionale. Una tassonomia aiuta i difensori a decidere cosa testare, cosa monitorare e quali controlli dare priorità, come il filtraggio degli input, il controllo degli accessi, il sandboxing e la registrazione in runtime. Nei contesti edge e IoT, ricorda anche ai team che i file del modello, la logica di orchestrazione e i runtime locali possono diventare payload. Nominando modelli come l'auto-replicazione e il dirottamento degli agenti, i team di sicurezza possono cercare abusi nativi dell'AI prima che si trasformino in una compromissione su larga scala.