La governance dei chatbot è l'insieme di politiche, ruoli, passaggi di approvazione e controlli tecnici usati per gestire nel tempo un sistema di IA conversazionale. تشمل come il bot viene progettato, chi può modificarlo, a quali dati può accedere, come vengono esaminate le risposte e quando deve inoltrare il caso a un essere umano. Una buona governance tratta il chatbot come un servizio gestito, non come un'implementazione una tantum.
Nella sicurezza informatica, la governance è importante perché i chatbot spesso si collocano tra gli utenti e i sistemi interni. Una supervisione debole può portare a prompt injection, divulgazione accidentale di dati, automazione non sicura o aggiornamenti del modello non autorizzati. Una governance solida riduce questi rischi con controllo delle modifiche, registrazione dei log, restrizioni di accesso, filtri dei contenuti, test e procedure di risposta agli incidenti. Aiuta anche i difensori a dimostrare la responsabilità: possono mostrare chi è il proprietario del bot, come viene monitorato e come vengono rilevati e corretti gli scostamenti del comportamento.