Una rete neurale profonda è un modello di machine learning composto da più livelli di parametri collegati che apprendono schemi dai dati. Ogni livello trasforma l'input, consentendo al modello di rappresentare relazioni complesse che sono difficili da codificare con regole fisse. Poiché la conoscenza è distribuita su molti pesi, le decisioni del modello sono spesso probabilistiche piuttosto che completamente deterministiche o facili da tracciare.
Nella sicurezza informatica, questo è importante perché i modelli profondi possono essere utili e fragili allo stesso tempo. I difensori li usano per il rilevamento del phishing, la classificazione del malware, il rilevamento delle anomalie e l'analisi di voce o immagini. Gli aggressori possono cercare di eluderli con input avversari, dati di addestramento avvelenati o trucchi di prompt e risposta che sfruttano punti ciechi nel comportamento appreso. I team di sicurezza devono anche monitorare come il modello si comporta dopo il deployment, poiché i cambiamenti di contesto possono alterare prestazioni e rischi. Questo rende le reti neurali profonde non solo componenti software, ma sistemi che devono essere testati, vincolati e misurati nel tempo.