Un modello gatekeeper è un modello di IA leggero collocato davanti a un modello o agente più grande per esaminare rapidamente l'input dell'utente. Il suo compito è decidere se un prompt sembra sufficientemente sicuro da essere inoltrato per un'elaborazione completa, oppure se debba essere bloccato, segnalato o inviato per una revisione più approfondita. Poiché è progettato per la velocità, di solito ha meno contesto e un ragionamento più debole rispetto al sistema a valle.
I modelli gatekeeper sono importanti perché spesso rappresentano la prima linea di difesa nella sicurezza dell'IA. Gli aggressori cercano di superarli con prompt injection, istruzioni offuscate o prosa apparentemente innocua che nasconde intenzioni dannose. Se il gatekeeper è troppo permissivo, contenuti malevoli possono raggiungere un modello più capace con accesso agli strumenti, accesso ai dati o privilegi di esecuzione. I difensori usano i gatekeeper come un livello all'interno di uno stack di controlli più ampio: combinarli con la separazione tra istruzioni e dati, il monitoraggio degli output, il sandboxing e l'accesso con privilegi minimi, in modo che aggirare il primo filtro non porti automaticamente a una compromissione.