Il routing multi-provider è un modello di integrazione AI in cui una singola richiesta dell'utente può essere inoltrata a diversi servizi AI upstream invece che a un unico backend del modello. Il router può scegliere un provider in base a costo, disponibilità, tipo di modello, policy o regole di fallback. Per l'utente, la chat può sembrare una semplice sessione, ma il prompt in realtà può passare attraverso diversi sistemi.
Questo è importante nella sicurezza informatica perché ogni passaggio può introdurre nuovi log, regole di conservazione, controlli di accesso e confini di fiducia. Un prompt che sembra privato sul front end può essere copiato nei log del proxy, nelle tracce di supporto, nei sistemi di monitoraggio degli abusi o in un'API di terze parti. Gli aggressori possono sfruttare questa architettura per nascondere dove i dati vengono elaborati, mentre i difensori la usano per resilienza e selezione del modello. Una buona pratica di sicurezza richiede il tracciamento della custodia del prompt, una chiara divulgazione dei processori, una registrazione minima e una gestione rigorosa dei contenuti sensibili.