La memoria ad alta larghezza di banda (HBM) è un'architettura di memoria veloce progettata per spostare grandi quantità di dati tra la memoria e i processori con throughput molto elevato e bassa latenza. Viene comunemente utilizzata con le GPU e gli acceleratori AI, dove i modelli devono leggere e scrivere continuamente enormi tensor. Rispetto alla RAM convenzionale, l'HBM è progettata per ridurre il collo di bottiglia della memoria che può rallentare i carichi di lavoro ad alta intensità di calcolo.
Nel campo della sicurezza informatica, l'HBM è importante perché l'infrastruttura AI moderna dipende da essa. Se i sistemi dotati di HBM sono sottodimensionati, configurati in modo errato o sovraccaricati, l'inferenza e l'analisi possono bloccarsi, creando un rischio per la disponibilità. Anche i difensori si preoccupano dell'hardware e del firmware che circondano questi dispositivi, poiché le piattaforme acceleratrici aggiungono ulteriori problemi di supply chain, controllo degli accessi e monitoraggio. In pratica, l'HBM compare nei server AI, nei cluster di addestramento dei modelli e nei sistemi di inferenza ad alte prestazioni, dove velocità e capacità influenzano direttamente la resilienza.