La sicurezza operativa dell'IA è l'insieme di controlli, monitoraggio e pratiche di risposta agli incidenti usati per proteggere i sistemi di IA mentre sono attivamente in esecuzione in produzione. Va oltre le policy e le checklist di approvazione concentrandosi su ciò che accade dopo la distribuzione: controllo degli accessi, logging, rilevamento del drift, rilevamento degli abusi e rollback sicuro quando il comportamento cambia.
Questo è importante perché l'IA può essere attaccata tramite input e flussi di lavoro del mondo reale. Gli avversari possono tentare prompt injection, avvelenamento malevolo dei dati nelle pipeline collegate, uso improprio del modello o difetti di integrazione che consentono a un agente IA di compiere azioni non sicure. I difensori usano la sicurezza operativa dell'IA per testare i sistemi in condizioni realistiche, osservare output anomali o pattern di accesso insoliti, limitare ciò a cui il modello può accedere e ripristinare rapidamente il servizio se un modello o un flusso di lavoro viene abusato. In pratica, tratta l'IA come un servizio attivo che richiede operazioni di sicurezza continue, non una revisione di governance una tantum.