La privacy dei prompt è la protezione dei prompt di IA inviati dagli utenti da accessi, archiviazione o divulgazione non necessari. In pratica, significa limitare chi può leggere un prompt, dove viene copiato e per quanto tempo viene conservato. Questo è importante perché i prompt contengono spesso segreti, dati personali, piani interni o altro materiale sensibile che gli utenti danno per scontato resti all'interno di una chat privata.
Nei sistemi di IA reali, i prompt possono passare attraverso browser, livelli proxy, servizi di relay, pipeline di registrazione e provider di modelli a monte. Ogni passaggio può creare un nuovo punto di esposizione tramite log di debug, telemetria, acquisizioni del supporto, cookie o file HAR. Gli aggressori e gli operatori negligenti non devono violare la crittografia per danneggiare la privacy dei prompt; possono semplicemente ottenere dati delle richieste memorizzati oppure osservarli in transito tra i componenti. Le difese si concentrano sulla minimizzazione dei dati, su limiti rigorosi di conservazione, sulla disattivazione della registrazione verbosa, su provider fiduciari per contratto e sul trattamento dei prompt come contenuto aziendale sensibile anziché come testo usa e getta.