La revisione della provenienza è il processo di verifica di dove ha avuto origine un modello, come è stato ottenuto e come viene utilizzato. Nel campo della sicurezza informatica, la provenienza aiuta i difensori a verificare se un modello è legittimo, autorizzato e conforme alle policy prima che venga considerato attendibile in produzione o su un endpoint.
Questo è importante perché la distribuzione dei modelli modifica il perimetro di fiducia. Un modello scaricato da una fonte non ufficiale può essere stato manomesso, riconfezionato o associato a strumenti non sicuri. Negli attacchi, le lacune nella provenienza possono consentire a modelli malevoli o modificati di entrare in ambienti privati, dove possono essere usati per phishing, generazione di codice o abuso automatizzato. Nella difesa, la revisione della provenienza supporta i controlli di approvvigionamento, le liste di autorizzazione, la verifica delle firme, la registrazione degli accessi e l'irrobustimento dell'ambiente. È particolarmente importante per i modelli a pesi aperti, perché una volta che i pesi vengono copiati, il controllo passa dallo sviluppatore originale a chi esegue il deployment.