Un cancello di governance è un punto di controllo formale in cui un output di IA, una modifica software o un altro prodotto di lavoro deve essere esaminato e approvato prima di poter procedere. Il gate può richiedere un via libera umano, controlli di policy, scansione di sicurezza o prove che la modifica soddisfi standard definiti.
Nella sicurezza informatica, i cancelli di governance sono importanti perché la velocità senza revisione può trasformare l'IA in un moltiplicatore di rischio. Il codice non controllato può introdurre vulnerabilità, dipendenze non sicure, segreti esposti o problemi di conformità. Negli scenari di attacco, gli attori minacciosi cercano di aggirare questi checkpoint inserendo codice malevolo, nascondendo prompt injection o usando l'automazione per sovraccaricare i revisori. Nella difesa, i cancelli di governance aiutano a garantire la tracciabilità, applicare il privilegio minimo e impedire che modifiche non sicure assistite dall'IA raggiungano la produzione. Sono un modo pratico per aggiungere responsabilità agli output del modello, non solo al modello stesso.