Il diritto personalizzato è l'idea che le regole giuridiche o gli effetti giuridici possano cambiare da persona a persona in base ai dati, al contesto o al comportamento inferito. Invece di una regola fissa uguale per tutti, un sistema può usare il profiling o la classificazione algoritmica per adattare un esito giuridico, come un avviso, una limitazione o un percorso di revisione. La preoccupazione per la sicurezza informatica è che la pipeline decisionale diventi un obiettivo di alto valore: se i dati di input vengono alterati, la logica del modello è distorta o i record sono incompleti, il risultato giuridico può essere errato o ingiusto.
Nella pratica, il diritto personalizzato solleva problemi familiari di sicurezza e governance. Gli attaccanti possono tentare il data poisoning, la manipolazione dell'identità o sfruttare controlli di accesso deboli per influenzare il modo in cui una persona viene classificata. I difensori hanno bisogno di solidi controlli di integrità dei dati, modelli spiegabili, registri di audit, segregazione dei compiti e una revisione umana significativa. Senza questi controlli, la personalizzazione può diventare una selezione automatizzata opaca anziché un processo decisionale responsabile, compromettendo il trattamento equo e il giusto processo.