Le dipendenze upstream sono i componenti precedenti che un sistema di IA eredita, come i pesi del modello di base, i dati di addestramento, gli adapter, i tokenizer o i livelli di post-training. Sono "upstream" perché esistono prima del modello finale impacchettato e possono influenzarne il comportamento molto tempo dopo che il modello è stato rilasciato di nuovo o rinominato.
Questo è importante nella sicurezza informatica perché anche i componenti ereditati possono comportare rischi: output distorti, dati avvelenati, funzionalità non sicure, problemi di licenza o backdoor nascoste. Un modello può sembrare affidabile in superficie pur dipendendo ancora da input compromessi o non verificati al di sotto. I difensori riducono questo rischio tracciando la provenienza, confrontando le impronte digitali, esaminando le model card e la documentazione sui dati e eseguendo test comportamentali per rilevare caratteristiche ereditate. Negli attacchi, gli avversari possono manomettere i dati di addestramento o inserire adapter malevoli; nella difesa, i team di sicurezza verificano le dipendenze upstream prima della distribuzione invece di fidarsi solo dell'etichetta del prodotto.