L'instruction tuning è una fase di addestramento in cui un modello linguistico viene sottoposto a fine-tuning su esempi di istruzioni e risposte ideali. L'obiettivo è rendere il modello più affidabile nel seguire le richieste umane: rispondere alla domanda posta, rispettare il formato di output e usare il contesto fornito invece di fare supposizioni. È diverso dal pre-addestramento di base, che insegna principalmente i modelli linguistici.
Nella sicurezza informatica, l'instruction tuning è importante perché molti strumenti si basano ormai sui modelli per riassumere avvisi, classificare messaggi sospetti, generare note sugli incidenti o assistere gli analisti. Un modello con un instruction tuning migliore è in genere più facile da controllare e più coerente in un flusso di lavoro SOC. Tuttavia, non è automaticamente sicuro. Gli aggressori possono usare prompt injection o altri testi malevoli per cercare di sovrascrivere il compito previsto, soprattutto quando un modello legge email, documenti o pagine web non affidabili. I difensori combinano l'instruction tuning con prompt di sistema rigorosi, controlli di accesso, filtri e revisione umana, così il modello segue la policy di sicurezza e non le istruzioni dell'aggressore.