Gli errori di memoria virtuale sono guasti che si verificano quando un processo non riesce a riservare o impegnare la memoria di cui ha bisogno dallo spazio degli indirizzi virtuali del sistema operativo. In Windows e in altri sistemi moderni, i programmi dipendono dalla memoria virtuale per il caricamento del codice, il disimballaggio, i buffer di cifratura, i thread e i dati temporanei. Se l'allocazione fallisce, il processo può bloccarsi, andare in stallo o saltare del tutto una funzione.
Nella sicurezza informatica, questi errori sono importanti perché il malware spesso richiede molta memoria ed è sensibile ai limiti delle risorse. Un payload ransomware può fallire durante la cifratura se non riesce ad allocare buffer di grandi dimensioni o a mappare correttamente i file, mentre loader, injector e shellcode possono rompersi quando la memoria è frammentata, limitata o monitorata. I difensori possono talvolta usare guasti anomali della memoria come indizio che l'esecuzione malevola è stata interrotta, ma non dovrebbero presumere che la minaccia sia scomparsa: gli aggressori possono riprovare, cambiare payload o aver già esfiltrato i dati. Gli errori di memoria sono quindi sia una modalità di fallimento operativa sia un segnale di rilevamento utile.