Un'esecuzione di valutazione è un test controllato usato per osservare come un modello o un agente si comporta in condizioni ripetibili. Nella sicurezza dell'IA, di solito significa fornire al sistema gli stessi prompt, strumenti, siti web o vincoli di policy e poi misurare ciò che fa. Poiché la configurazione è coerente, i ricercatori possono confrontare il comportamento tra versioni, individuare regressioni e identificare azioni non sicure prima della distribuzione.
Le esecuzioni di valutazione sono importanti nella sicurezza informatica perché i sistemi agentici possono navigare, fare clic, compilare moduli o seguire istruzioni provenienti da contenuti non fidati. Una valutazione accurata può rivelare rischi di prompt injection, permessi eccessivi, fuga di dati o uso indesiderato di strumenti. I difensori usano queste esecuzioni per testare le protezioni, confermare che le azioni sensibili richiedano approvazione e verificare che un agente si comporti in modo sicuro quando incontra pagine web ostili o contenuti fuorvianti. In breve, un'esecuzione di valutazione è uno dei principali modi per trasformare vaghe preoccupazioni di sicurezza in prove di sicurezza misurabili.