Un filtro di sicurezza LLM è un livello di screening posizionato prima di un modello o di uno strumento per rilevare e bloccare contenuti non sicuri, in violazione delle policy o malevoli. Può cercare istruzioni dannose, argomenti non consentiti, pattern di prompt injection o richieste che non dovrebbero raggiungere un sistema a valle. In pratica, il filtro agisce come primo sbarramento, non come garanzia finale.
Questo è importante perché i sistemi di IA spesso elaborano testo non attendibile proveniente da email, documenti, pagine web, ticket o output di strumenti. Gli aggressori possono nascondere istruzioni all'interno di contenuti dall'aspetto normale e cercare di farli passare oltre un filtro leggero. Se il modello successivo tratta quel testo come input significativo, il comando nascosto può ancora influenzare l'output o l'uso degli strumenti. I difensori usano i filtri di sicurezza come parte di una protezione a più livelli, insieme a confini di fiducia, isolamento dei contenuti, accesso agli strumenti con il principio del privilegio minimo e revisione umana per le azioni sensibili. Un filtro è utile, ma non dovrebbe mai essere l'unico controllo.