Un AI orchestrator è un software che coordina workflow IA multi-step. Può concatenare chiamate ripetute al modello, scegliere strumenti o agenti, passare gli output da una fase alla successiva e gestire i tentativi, lo stato e la logica di fallback. In pratica, si colloca sopra il livello del modello e aiuta a trasformare prompt individuali in un processo controllato.
Nella sicurezza informatica, l'orchestrazione è importante perché diventa un piano di controllo per l'automazione sensibile. Se un attaccante modifica le regole di routing, altera i permessi degli strumenti o abusa delle credenziali, può indirizzare il workflow, attivare azioni non sicure o esporre dati attraverso più sistemi. I difensori usano l'orchestrazione per applicare policy, registrare l'attività, limitare la velocità di utilizzo e passare a fallback più sicuri quando un provider fallisce. Una buona governance è essenziale, perché un orchestratore configurato male può causare interruzioni, errori nella gestione dei dati o violazioni delle policy su larga scala.