La gestione dei confini è la pratica di mantenere separate le istruzioni affidabili dai dati non affidabili, in modo che i due non possano influenzarsi a vicenda. Nel software sicuro, la policy dovrebbe risiedere nel codice, nella configurazione o in regole firmate, mentre l'input dell'utente, i file, le pagine web e le email vengono trattati solo come dati. Questo è importante perché molti attacchi cercano di oltrepassare quel confine e trasformare il contenuto in controllo.
Nei sistemi di IA, la gestione dei confini è particolarmente importante. Un modello linguistico può leggere testo ostile che contiene istruzioni nascoste, ma non dovrebbe trattare quel testo come parte del proprio prompt o della propria policy. Confini solidi riducono il prompt injection, la classificazione errata e l'uso non sicuro degli strumenti da parte degli agenti. I difensori usano sandboxing, analisi rigorosa, principio del privilegio minimo e approvazione esplicita umana per le azioni rischiose. Una buona gestione dei confini non migliora solo l'accuratezza del modello; limita anche la possibilità che contenuti controllati dall'attaccante possano sovrascrivere le decisioni di sicurezza.