Il monitoraggio del drift è la pratica di tenere traccia di se gli output, i punteggi o le decisioni di un modello di IA cambiano nel tempo in modi che riducono la qualità, l'affidabilità o la conformità alle policy. Nella sicurezza informatica, questo è importante perché i modelli che sembrano sicuri nei test possono diventare incoerenti in produzione dopo cambiamenti ai prompt, nuovi dati, aggiornamenti software o variazioni nel comportamento degli utenti. Per i team di sicurezza, il drift è un segnale di avvertimento che un sistema di IA potrebbe non essere più affidabile per il controllo degli accessi, il triage, il rilevamento o il supporto alla risposta.
Nelle distribuzioni reali, il drift può manifestarsi come un aumento dei falsi positivi, attività malevole non rilevate, un filtraggio dei contenuti più debole o nuovi schemi di errore che gli aggressori possono sfruttare. Un avversario può anche tentare di forzare il drift tramite data poisoning, manipolazione dei prompt o input ripetuti di casi limite. I difensori usano il monitoraggio del drift con metriche di base, dataset golden, avvisi di soglia e procedure di rollback o di rivalutazione. L'obiettivo non è fermare ogni cambiamento, ma rilevare presto gli spostamenti del comportamento per mantenere il sistema accurato, verificabile e sicuro.