La separazione della provenienza è la pratica di mantenere distinte, all'interno di un sistema di IA, diverse fonti di testo o comandi: istruzioni di sistema, input diretto dell'utente e contenuti esterni non attendibili come pagine web, file o risultati di ricerca. L'obiettivo è impedire che materiale a bassa fiducia venga scambiato per istruzioni ad alta fiducia.
Questo è importante nella sicurezza informatica perché l'iniezione di prompt spesso funziona facendo passare testo ostile attraverso contenuti che il modello legge in seguito come contesto. Se una pagina web, un deep link o un documento possono influenzare l'assistente senza confini chiari, quel contenuto può orientare le risposte, attivare azioni non sicure o contaminare le funzionalità di memoria. I difensori usano la separazione della provenienza per etichettare, sanificare e limitare i contenuti recuperati, e per richiedere conferma prima di qualsiasi azione con conseguenze. In pratica, è un controllo fondamentale per gli assistenti che navigano, riassumono o agiscono per conto degli utenti.


