L'approvazione manuale è un controllo che richiede a una persona di rivedere e confermare un'azione sensibile prima che un agente di IA, uno script di automazione o uno strumento con privilegi possa procedere. L'azione può includere la modifica del codice di produzione, l'esecuzione di comandi distruttivi, l'accesso ai segreti, l'approvazione delle distribuzioni o la connessione a sistemi esterni. In termini di sicurezza, crea una pausa tra suggerimento ed esecuzione, riducendo la possibilità che un sistema esegua autonomamente una richiesta dannosa.
Questo è importante perché gli agenti di IA possono essere influenzati da contesto ingannevole, prompt errati o assunzioni sbagliate su ciò che è autorizzato. Gli aggressori possono cercare di presentare un'attività malevola come un lavoro di routine, sperando che l'agente la esegua senza controllo. L'approvazione manuale aiuta a difendere da questo rischio costringendo una persona a esaminare la richiesta, verificarne l'ambito e controllarne l'intento. Le implementazioni solide registrano anche chi ha approvato l'azione, cosa è stato approvato e se la richiesta corrispondeva alla policy. Se usata bene, l'approvazione manuale è un pratico confine di fiducia per l'automazione ad alto rischio.