La supervisione umano-IA è un modello di workflow in cui le persone mantengono l'autorità di revisione e decisione sui consigli dell'IA. Il modello può suggerire, redigere, riassumere o segnalare rischi, ma un essere umano deve convalidare l'output prima che venga utilizzato. Nel lavoro di sicurezza, questa separazione è importante perché un sistema di IA può essere fluido, sicuro di sé e comunque sbagliato. Se gli utenti trattano la risposta del modello come un'approvazione invece che come una guida, gli errori possono procedere con meno controllo di quanto sia necessario.
Nella sicurezza informatica, la supervisione aiuta a impedire che il bias da automazione, la piaggeria e altri fallimenti di fiducia diventino debolezze operative. Compare nelle difese come revisione obbligatoria per le modifiche alle policy, percorsi di escalation, controlli sulle prove e approvazioni ad alto impatto. Negli attacchi, gli avversari possono cercare di sfruttare un'eccessiva fiducia fornendo prompt fuorvianti o un contesto distorto in modo che l'assistente rafforzi una cattiva decisione. Una supervisione solida limita questo rischio richiedendo verifica indipendente, chiara attribuzione delle responsabilità e la possibilità per le persone di annullare il modello quando la posta in gioco è alta.