La governance dell'autonomia è l'insieme di regole, controlli e meccanismi di supervisione che vincolano ciò che un sistema autonomo può decidere, accedere o eseguire. In pratica, definisce i confini operativi del sistema: quali strumenti può chiamare, quali dati può leggere, quali azioni richiedono approvazione e quando deve intervenire un essere umano.
Questo è importante nella sicurezza informatica perché gli agenti autonomi possono trasformare un semplice modello in un operatore potente all'interno dei sistemi aziendali. Se le autorizzazioni sono troppo ampie, un aggressore può abusare del prompt injection, di credenziali rubate o di input dannosi per indurre l'agente a esporre dati, modificare record o attivare flussi di lavoro dannosi. Una governance solida riduce questo rischio tramite il principio del privilegio minimo, connettori limitati per ambito, registrazione degli eventi, gate di approvazione, percorsi di rollback e monitoraggio continuo. I difensori usano questi controlli per mantenere l'autonomia utile, rendendo al contempo le azioni verificabili, reversibili e conformi alle policy.