La configurazione dell'agente è l'insieme di regole, autorizzazioni, connessioni agli strumenti e impostazioni del flusso di lavoro che controllano il comportamento di un assistente AI. Determina cosa l'agente può leggere, quali azioni può intraprendere, quali prompt o istruzioni di sistema segue e come concatena i passaggi durante un'attività.
Nel campo della sicurezza informatica, la configurazione dell'agente è importante perché piccoli cambiamenti possono creare grandi rischi. Se un assistente ha accesso a repository di codice, shell, sistemi di ticketing o archivi di segreti, una configurazione debole potrebbe consentirgli di esporre dati sensibili, apportare modifiche non sicure o seguire istruzioni malevole nascoste nel contenuto che elabora. Le configurazioni corrette limitano i privilegi, separano le istruzioni attendibili dagli input non attendibili e richiedono l'approvazione umana per le azioni ad alto impatto. I difensori usano anche revisioni della configurazione e test di regressione per verificare che un agente continui a comportarsi in modo sicuro dopo sostituzioni del modello, modifiche agli strumenti o aggiornamenti dei prompt.