Le Istruzioni personalizzate sono indicazioni fornite dall'utente che modellano il modo in cui risponde un assistente AI. Possono influenzare tono, formato, livello di dettaglio, strumenti preferiti o regole ricorrenti come “essere concisi” o “citare sempre le fonti”. A differenza di un singolo prompt, agiscono come guida persistente che può influire su molte risposte future finché non viene modificata o rimossa.
Nella sicurezza informatica, le Istruzioni personalizzate sono importanti perché possono cambiare quante informazioni di contesto rivela un assistente, come sintetizza materiale sensibile e come gestisce le richieste collegate ad account o app connesse. Istruzioni scritte male possono incoraggiare involontariamente un'eccessiva divulgazione, mentre quelle scelte con attenzione possono ridurre l'esposizione limitando l'output, evitando contenuti riservati o imponendo comportamenti più sicuri. Gli aggressori possono tentare di abusarne tramite ingegneria sociale o prompt injection, sperando di sovrascrivere le indicazioni protettive e indurre l'assistente a divulgare dati o ad agire al di fuori delle policy. I difensori le usano per stabilire confini di sicurezza, standardizzare risposte sicure e ridurre il rischio di fughe accidentali di informazioni o di impersonificazione.