Il logging di provenienza è la pratica di registrare da dove provengono i dati, gli output dei modelli o gli artefatti derivati, e come sono stati utilizzati. In termini di sicurezza, crea una traccia di evidenze: quale account ha richiesto un output, quale sistema lo ha generato, quale prompt o input era coinvolto e se il risultato è stato successivamente copiato, esportato o riutilizzato.
Questo è importante perché l'uso autorizzato e l'abuso possono apparire simili sul filo. Nei sistemi di IA, richieste ripetute possono essere test legittimi, ma possono anche essere estrazione del modello, distillazione o raccolta di prompt. I log di provenienza aiutano i difensori a correlare i modelli di accesso, rilevare riutilizzi sospetti su larga scala e dimostrare se un output proveniva da un flusso di lavoro approvato. Sono utili anche nella risposta agli incidenti, dove gli investigatori devono tracciare i dati divulgati, confermare i sistemi di origine e separare le operazioni normali dall'uso improprio. Un logging di provenienza efficace è più utile quando è combinato con autenticazione, limiti di velocità e protezione dell'integrità dei log stessi.