La supervisione dell'IA è l'insieme di controlli di governance usati per esaminare, limitare e monitorare le funzionalità di IA in modo che non generino comportamenti non sicuri, non consentano abusi o introducano rischi non gestiti. Può includere punti di approvazione prima del rilascio, test red-team, verifiche sulle policy, controlli di accesso, registrazione e revisione umana degli output ad alto impatto. L'obiettivo è rendere i sistemi di IA abbastanza prevedibili da poter operare all'interno di un programma di sicurezza.
Questo è importante perché l'IA può amplificare problemi di sicurezza già esistenti. Un modello governato in modo insufficiente può esporre dati sensibili, generare istruzioni dannose o prendere decisioni automatiche che gli attaccanti possono sfruttare tramite prompt injection, data poisoning o abuso del modello. I difensori usano la supervisione dell'IA per ridurre questi rischi definendo i casi d'uso consentiti, monitorando comportamenti anomali e richiedendo un'escalation quando un modello si comporta al di fuori delle policy. In pratica, una supervisione solida trasforma l'IA da funzionalità incontrollata in risorsa gestita.