Il test di similarità è il processo di confronto dei contenuti generati con il materiale di origine per verificare se l'output è troppo vicino a un'opera protetta. Nei sistemi di IA, questo può significare misurare la sovrapposizione in melodia, testo, codice, struttura delle immagini o altre caratteristiche che possono indicare una copia invece di una generazione originale.
È importante nella sicurezza informatica perché i sistemi generativi possono rivelare dati di addestramento, riprodurre asset proprietari o creare output che violano policy o leggi. I team di sicurezza usano il test di similarità come controllo difensivo per rilevare la memorizzazione, l'esfiltrazione di dati tramite prompt e la rigurgitazione accidentale di contenuti sensibili. In pratica, questo può comportare controlli sugli n-grammi, fingerprinting, embedding, hash percettivi o punteggi basati su soglie prima del rilascio del contenuto. Se integrato nei flussi di logging e revisione, il test di similarità aiuta a dimostrare che un modello non sta ripetendo troppo da vicino materiale confidenziale o protetto da copyright.