La divulgazione del system prompt è l'esposizione involontaria di istruzioni nascoste che guidano il comportamento di un modello di IA. Queste istruzioni possono definire il tono, le regole di sicurezza, l'uso degli strumenti, i confini del ruolo o la logica di business. Di solito dovrebbero rimanere invisibili agli utenti finali, ma a volte possono essere rivelate tramite prompting diretto, prompt injection indiretta, errori di registrazione, integrazioni insicure o output del modello eccessivamente prolissi.
Questo è importante perché il system prompt spesso contiene vincoli critici per la sicurezza e segreti operativi. Se un attaccante li apprende, può mettere a punto jailbreak, aggirare i guardrail oppure dedurre come un flusso di lavoro decide approvazioni, classificazioni o escalation. Nelle distribuzioni reali, la divulgazione può anche esporre nomi di connettori, policy interne o permessi degli strumenti, fornendo a un attaccante una mappa dell'ambiente IA. Le difese includono non inserire segreti nei prompt, separare l'applicazione delle policy dal testo del modello, ridurre al minimo l'accesso agli strumenti, redigere i log e testare con prompt avversari per vedere cosa il modello rivela.