I governance guardrails sono le policy, le autorizzazioni, le approvazioni e i controlli in runtime che limitano ciò a cui un agente AI può accedere, modificare o approvare. Nei sistemi agentici, il modello può fare più che generare testo: può chiamare strumenti, leggere dati, attivare flussi di lavoro e fare richieste per conto di un utente. I guardrail definiscono i confini di quel comportamento, in modo che l'agente resti allineato al proprio compito.
Sono importanti perché un'eccessiva autonomia trasforma un piccolo errore in un vero evento di sicurezza. Se un agente può accedere a email, file, sistemi di ticketing o API cloud, un attaccante può sfruttare il prompt injection, una debole autorizzazione o un accesso eccessivamente ampio agli strumenti per farlo agire fuori dalla sua missione. Guardrail efficaci usano il principio del privilegio minimo, identità con ambito limitato, approvazione umana per le azioni ad alto impatto e controlli in runtime che bloccano le modifiche non sicure. I log di audit, le trace e i record di provenienza aiutano i difensori a verificare se l'agente ha rispettato le policy e supportano la revisione degli incidenti quando non lo ha fatto.