Una firma del modello è un contrassegno crittografico associato a un artefatto del modello, come i pesi, un checkpoint o un file di distribuzione confezionato. Consente a un verificatore di controllare due cose: che l'artefatto non sia stato modificato da quando è stato firmato e che provenga da una fonte fidata. In pratica, è simile alla firma del codice per il software, ma applicata agli asset di machine learning.
Le firme del modello sono importanti perché le supply chain dell'IA sono facili da manomettere. Gli aggressori possono cercare di sostituire un modello con una versione avvelenata, inserire un checkpoint con backdoor o scambiare un artefatto approvato con un file dall'aspetto simile. Una firma valida aiuta i difensori a rilevare queste modifiche durante l'archiviazione, il trasferimento e la distribuzione. È un forte controllo di integrità, ma non prova che il modello sia sicuro, accurato o privo di comportamenti dannosi. I team di sicurezza usano le firme insieme ai record di provenienza, ai controlli di accesso e alla convalida a runtime per ridurre il rischio di manomissione del modello e di sostituzione non autorizzata.