Con IA che tutela la privacy si intendono metodi che limitano la quantità di informazioni personali o sensibili rivelate durante l’addestramento, il funzionamento o la valutazione dei sistemi di IA. A seconda del caso d’uso, le tecniche possono includere la minimizzazione dei dati, la rimozione o l’occultamento degli identificatori, l’elaborazione locale dei dati, il calcolo sicuro e la privacy differenziale, che aggiunge rumore calibrato con cura per limitare ciò che si può dedurre sulle persone.
Queste misure di protezione sono importanti perché i flussi di lavoro dell’IA possono esporre informazioni tramite i dati di addestramento, i prompt, gli output dei modelli o i log. Nelle implementazioni reali, i team possono ridurre i rischi raccogliendo solo i dati necessari, limitando gli accessi, verificando la presenza di memorizzazione o fughe di dati e definendo controlli sulla conservazione. Nessuna singola tecnica garantisce la privacy: le protezioni devono essere valutate in relazione ai dati, al modello di minaccia e alla progettazione del sistema, bilanciandole con i requisiti di utilità e sicurezza.