Il processo decisionale basato esclusivamente su sistemi automatizzati consiste nel prendere una decisione mediante un trattamento automatizzato, senza un coinvolgimento umano significativo nel raggiungimento dell’esito. L’approvazione nominale di una persona non rende necessariamente il processo effettivamente guidato da un essere umano, se questa si limita ad accettare il risultato di un sistema senza esaminarlo o senza poterlo modificare. Il fatto che una decisione rientri in questa definizione dipende dal flusso di lavoro effettivo e dalla normativa applicabile.
Nella cybersicurezza e nella governance dell’intelligenza artificiale, la distinzione è importante perché le decisioni automatizzate possono incidere sull’accesso, sull’occupazione o su altri interessi importanti, lasciando le persone interessate incerte su come contestare un esito. I sistemi che assegnano punteggi ai candidati a un posto di lavoro, classificano i lavoratori o segnalano comportamenti possono formulare raccomandazioni oppure prendere la decisione finale. Le organizzazioni dovrebbero documentare in quali fasi avviene la revisione umana e conservare registrazioni proporzionate degli input, degli output e delle azioni, affinché il processo possa essere ricostruito ed esaminato.