Il miglioramento del modello è il processo di utilizzo di dati consentiti per affinare il comportamento, l'accuratezza, la sicurezza o lo stile di un sistema di IA. In pratica, ciò può includere log di chat sottoposti a revisione, etichette di feedback o altri esempi approvati che aiutano il modello a produrre output migliori nel tempo. L'importante aspetto di sicurezza è che il "miglioramento" è anche un flusso di lavoro di gestione dei dati: una volta che il contenuto dell'utente viene raccolto, può essere archiviato, filtrato, revisionato e riutilizzato secondo regole specifiche.
Nel cyber security, i programmi di miglioramento del modello sono importanti perché incidono su privacy, conservazione dei dati e fiducia. I prompt sensibili possono esporre password, segreti aziendali o dati personali se gli utenti condividono troppo, quindi i fornitori di solito si affidano a controlli di adesione volontaria, redazione, limiti di accesso e de-identificazione. I difensori usano queste misure di tutela per ridurre le fughe di dati e rispettare le policy, mentre gli attaccanti possono cercare di avvelenare il comportamento futuro inviando contenuti fuorvianti o sfruttare la fiducia nei sistemi di "apprendimento" per diffondere input dannosi. Una buona governance mantiene i dati di miglioramento limitati, revisionati e chiaramente separati dall'identità.