L'aggregazione sicura è un protocollo crittografico usato nel federated learning e in sistemi distribuiti simili. Consente a un server di combinare molti aggiornamenti dei client in un unico risultato senza poter leggere l'aggiornamento individuale di ciascun partecipante. Il server vede l'aggregato, ma non il contributo grezzo di alcun singolo dispositivo, tenant o utente.
È importante perché riduce l'esposizione di segnali di addestramento sensibili durante il transito e nel punto di aggregazione. I difensori la usano per limitare ciò che un operatore, un servizio cloud o un coordinatore compromesso può apprendere dagli aggiornamenti del modello. È comune nel machine learning che preserva la privacy, dove i client inviano valori cifrati o mascherati che si annullano solo quando vengono combinati. Ma l'aggregazione sicura non è una garanzia completa di privacy: non dimostra che il gruppo fosse sicuro, che gli aggiornamenti fossero onesti o che il modello finale rispetti un budget di privacy. Gli aggressori possono comunque sfruttare una selezione debole dei partecipanti, gruppi piccoli o perdite di metadati lungo il processo di aggregazione.