Venerdi 23 Ottobre 2026 04:09:54 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Separazione della provenienza

Mantenere i contenuti non attendibili distinti dalle istruzioni di sistema e dalle intenzioni dell'utente.

La separazione della provenienza è la pratica di mantenere distinte, all'interno di un sistema di IA, diverse fonti di testo o comandi: istruzioni di sistema, input diretto dell'utente e contenuti esterni non attendibili come pagine web, file o risultati di ricerca. L'obiettivo è impedire che materiale a bassa fiducia venga scambiato per istruzioni ad alta fiducia.

Questo è importante nella sicurezza informatica perché l'iniezione di prompt spesso funziona facendo passare testo ostile attraverso contenuti che il modello legge in seguito come contesto. Se una pagina web, un deep link o un documento possono influenzare l'assistente senza confini chiari, quel contenuto può orientare le risposte, attivare azioni non sicure o contaminare le funzionalità di memoria. I difensori usano la separazione della provenienza per etichettare, sanificare e limitare i contenuti recuperati, e per richiedere conferma prima di qualsiasi azione con conseguenze. In pratica, è un controllo fondamentale per gli assistenti che navigano, riassumono o agiscono per conto degli utenti.

← indice WIKICROOK