Il monitoraggio post-rilascio consiste nell'osservazione continua di un sistema dopo la sua distribuzione. Aiuta i team a rilevare guasti, usi impropri, problemi di sicurezza o cambiamenti nel comportamento che non erano emersi durante i test pre-rilascio. Nei sistemi di IA, può includere l'esame delle segnalazioni degli utenti, l'analisi degli output e dell'attività degli strumenti e la verifica che aggiornamenti o nuove integrazioni non modifichino il livello di rischio.
Il monitoraggio è importante perché i test coprono solo le condizioni esaminate prima del lancio, mentre le implementazioni reali devono affrontare utenti, prompt, dati e flussi di lavoro mutevoli. I team di sicurezza possono utilizzare metriche definite, soglie di allerta, segnalazioni degli incidenti e una procedura per esaminare e gestire i risultati. Il monitoraggio non garantisce la sicurezza, ma fornisce elementi per rivedere le ipotesi, applicare misure di mitigazione o limitare un sistema quando necessario.