Human-in-the-loop (HIL) è un modello di controllo in cui una persona esamina, modifica o approva l'output di un'IA prima che il sistema agisca. Invece di lasciare che un modello operi in modo autonomo, HIL inserisce un punto di controllo per il giudizio, le policy e la responsabilità.
Nella sicurezza informatica, HIL aiuta a ridurre gli errori dovuti a allucinazioni, dati errati o uso non sicuro degli strumenti. Viene comunemente usato per decisioni ad alto impatto, come approvare il blocco di un account, bloccare un host, inviare un avviso a una coda incidenti o eseguire un playbook di risposta. HIL può anche rallentare gli aggressori quando i modelli vengono usati in difesa, perché un essere umano può individuare prompt manipolati, raccomandazioni sospette o azioni inattese. Il compromesso è la latenza e il costo operativo, quindi i team più maturi usano HIL per i passaggi rischiosi automatizzando quelli a basso rischio. Una buona progettazione HIL combina la revisione con la registrazione dei log, il controllo degli accessi basato sui ruoli e regole di approvazione chiare.