L'addestramento dell'IA è il processo di utilizzo dei dati per insegnare a un modello di apprendimento automatico schemi che potrà poi riconoscere o prevedere. I dati possono includere testo, immagini, audio, registri di sensori o interazioni degli utenti, e il processo di addestramento regola i parametri del modello in modo che il sistema funzioni meglio in un'attività.
Nella sicurezza informatica, l'addestramento dell'IA è importante perché la pipeline di addestramento è un punto di controllo sensibile. Se gli aggressori riescono a inserire dati avvelenati, possono influenzare un modello o ridurne l'accuratezza. Se i dati di addestramento vengono raccolti senza confini chiari, possono anche esporre dati personali, segreti o informazioni proprietarie. I difensori proteggono i sistemi di addestramento con minimizzazione dei dati, controlli di accesso, convalida dei dataset, verifiche della provenienza e registri di audit. Nei dispositivi consumer, le impostazioni di addestramento e le opzioni di esclusione sono importanti perché determinano se i dati generati dagli utenti possano essere riutilizzati per migliorare il modello.