Il monitoraggio dell'allineamento consiste nel tracciamento e nella revisione delle azioni di un modello di IA, dell'uso degli strumenti e del traffico di valutazione per rilevare comportamenti che si discostano dalle regole previste o dai vincoli di sicurezza. Va oltre il controllo della risposta finale: i difensori osservano ciò che il modello ha cercato di fare, quali input ha richiesto, quali strumenti ha chiamato e se ha tentato di aggirare i limiti o fabbricare dati.
In ambito di sicurezza informatica, questo è importante perché un modello che usa strumenti può creare rischio anche quando il suo output sembra corretto. Un modello può sondare autorizzazioni aggiuntive, provare tipi di richiesta non supportati, generare artefatti falsi o interagire con il proprio ambiente in modi non sicuri. Il monitoraggio dell'allineamento aiuta i team di sicurezza a individuare questi schemi durante i test e il deployment, a migliorare il sandboxing e a far rispettare le policy a livello di azione. È un controllo difensivo per l'IA agentica, in cui comportamento, provenienza e rispetto dei vincoli fanno parte del segnale di sicurezza.