Un modello di terze parti è un modello di IA costruito e mantenuto al di fuori della tua organizzazione, quindi utilizzato come servizio o distribuito nel tuo ambiente per l'inferenza, l'analisi o l'automazione. Il fornitore del modello controlla i pesi, il processo di addestramento e spesso la frequenza degli aggiornamenti, mentre il tuo team controlla come viene usato e quali dati può vedere.
Questo è importante perché ogni modello esterno introduce un perimetro di fiducia. Prompt sensibili, file o metadati possono essere esposti durante l'inferenza, e una pipeline del modello compromessa o configurata in modo errato può divulgare dati, restituire output non sicuri o ampliare la superficie d'attacco tramite plugin e uso di strumenti. Le difese includono controlli di accesso rigorosi, minimizzazione dei dati, sandboxing, attestazione per l'IA riservata, controllo delle chiavi di crittografia, registrazione di audit e revisione del fornitore. In pratica, i team di sicurezza trattano i modelli di terze parti come qualsiasi altra dipendenza della supply chain: utili, ma solo se il loro comportamento, le autorizzazioni e l'accesso ai dati sono rigorosamente governati.