I controlli dell'output sono le regole di revisione e approvazione che determinano come i risultati generati dall'IA vengono verificati prima di essere utilizzati. Definiscono chi può fare affidamento sull'output, che cosa deve essere verificato da una persona e quando un risultato automatizzato è troppo rischioso per essere accettato così com'è. In pratica, i controlli dell'output possono includere passaggi di convalida, requisiti di approvazione, soglie di affidabilità e la registrazione di chi ha approvato il risultato.
Sono importanti nella sicurezza informatica perché gli output dell'IA possono essere errati, distorti, riservati o manipolati. Se un attaccante influenza il modello tramite prompt injection, dati avvelenati o input non sicuri, l'output può contenere istruzioni dannose, informazioni divulgate o decisioni errate. Controlli dell'output solidi riducono questo rischio imponendo una revisione prima del rilascio, bloccando i contenuti sensibili e limitando l'automazione a valle. Nei contratti e nelle policy di sicurezza, aiutano a definire la responsabilità: il modello può generare il risultato, ma una persona o un sistema deve decidere se è sicuro da usare.