L'orchestrazione multi-agente è un design di IA in cui un sistema di coordinamento assegna il lavoro a diversi sotto-agenti più piccoli. Ogni sotto-agente può fare ricerche, riassumere, chiamare strumenti o gestire un passaggio ristretto in un flusso di lavoro più ampio, mentre l'orchestratore tiene traccia del contesto e combina i risultati. Questo approccio può rendere i sistemi di IA più veloci e più capaci di un singolo modello monolitico.
Nella sicurezza informatica, l'orchestrazione è importante perché ogni sotto-agente può avere autorizzazioni, accessi ai dati e connettori esterni diversi. Se i confini sono deboli, un errore in un agente può esporre segreti, attivare azioni non sicure o consentire a un attaccante di spostarsi lateralmente attraverso lo stato condiviso. I difensori quindi trattano i piani degli agenti, l'accesso agli strumenti e gli input dei prompt come controlli di sicurezza. Nelle implementazioni reali, un'orchestrazione sicura usa il privilegio minimo, fasi di approvazione per le azioni sensibili, registrazione dei log e un isolamento rigoroso tra gli agenti e le risorse condivise.