Un Sistema di Decisione Automatizzata è un software che prende o supporta decisioni assegnando punteggi, classificando, ordinando o filtrando persone o record. In pratica, un ADS può segnalare un dipendente per una revisione, dare priorità a un richiedente di prestito o raccomandare una sanzione in base a modelli presenti nei dati. Il risultato non è sempre la decisione finale, ma può influenzarla in modo decisivo.
Nella sicurezza informatica, gli ADS sono importanti perché introducono automazione ad alto impatto in ambiti come identità, accessi e azioni sul personale. Un ADS debole può essere manipolato con dati di input errati, caratteristiche distorte o record manomessi, trasformando raccomandazioni difettose in danni concreti nel mondo reale. Chi difende questi sistemi ha bisogno di registri di audit, controlli degli accessi e tracciabilità della decisione, così da poter dimostrare quali dati sono stati usati, chi ha esaminato l'output e se un essere umano poteva annullarlo. Gli attaccanti possono tentare di avvelenare i dati di addestramento, nascondere prove o sfruttare processi di revisione meccanici, in cui una persona approva il risultato della macchina senza verificarlo. Una governance solida degli ADS rende le decisioni automatizzate più trasparenti, verificabili e resilienti.