L'allineamento post-addestramento è la fase successiva al pre-addestramento di base di un modello, in cui gli sviluppatori lo regolano con feedback umano, dati sulle preferenze, regole di sicurezza e vincoli di policy. L'obiettivo non è rendere il modello "neutrale", ma rendere il suo comportamento più utile, più sicuro e più facile da governare. L'allineamento può cambiare il modo in cui un sistema risponde alle domande, rifiuta richieste rischiose, segue regole di stile o gestisce argomenti sensibili.
Nella sicurezza informatica, questo livello è importante perché modella direttamente ciò che un assistente AI dirà su phishing, malware, verifica dell'identità o procedure interne. Un allineamento forte può ridurre i consigli dannosi, limitare la fuga di dati e applicare le policy aziendali. Un allineamento debole o incoerente può essere sfruttato tramite prompt injection, jailbreak o prompt manipolativi che cercano di aggirare le protezioni. I difensori testano i modelli allineati per la qualità dei rifiuti, il rispetto delle policy e la resilienza ai prompt avversari, mentre gli attaccanti cercano lacune tra l'addestramento del modello e i suoi controlli in fase di esecuzione.