Un golden dataset è un insieme accuratamente selezionato di esempi di test affidabili usato come riferimento per valutare un sistema di IA. Ogni esempio ha un risultato atteso, così i team possono verificare se un modello, un prompt o una pipeline di retrieval continua a comportarsi correttamente dopo le modifiche. In pratica, è una base di riferimento per i test di regressione: se la qualità dell'output cala, il golden set aiuta a individuare cosa è cambiato.
Nella sicurezza informatica, i golden dataset sono importanti perché i sistemi di IA spesso supportano il rilevamento del phishing, il triage del malware, l'analisi dei log o copiloti rivolti agli utenti. Gli aggressori possono provare tecniche di prompt injection, data poisoning o evasione che modificano il comportamento del modello senza compromettere apertamente il sistema. Un golden dataset aiuta i difensori a individuare questi cambiamenti testando casi rilevanti per la sicurezza, condizioni limite e pattern malevoli noti. È più utile se combinato con versioning, test red-team e monitoraggio del drift, così i team di sicurezza possono dimostrare che un controllo di IA continua a funzionare prima e dopo la distribuzione.