Il debito algoritmico è un termine non standard per i costi tecnici, operativi e di supervisione che si accumulano quando i sistemi di IA crescono più velocemente di quanto un'organizzazione riesca a controllarli. È simile al debito tecnico, ma si concentra su problemi specifici dell'IA come modelli duplicati, prompt non gestiti, chiamate ai modelli eccessive, processi di revisione deboli e proprietà poco chiara degli output e dei dati.
Nella sicurezza informatica, il debito algoritmico è importante perché può nascondere il rischio. La shadow AI può aggirare la registrazione, gli acquisti e la revisione di sicurezza, rendendo più difficile sapere quali dati vengono inviati ai modelli o quali flussi di lavoro stanno consumando risorse. Nel tempo, un'IA gestita male può aumentare la superficie di attacco, complicare la risposta agli incidenti e creare lacune di audit e conformità. Le difese includono il mantenimento di un inventario degli strumenti approvati, il tracciamento dell'utilizzo per utente e progetto, la limitazione dell'automazione ad alto rischio e la richiesta di una revisione umana per i flussi di lavoro sensibili.