Le immagini sessualizzate sintetiche sono immagini create o alterate dall'IA che raffigurano una persona reale in forma esplicita o sessualizzata. Possono partire da una foto normale e usare editing generativo, face swapping o altre tecniche di manipolazione delle immagini per creare contenuti che sembrano convincenti anche se la persona non ha mai dato il proprio consenso.
Nella sicurezza informatica, questo è importante perché il danno è spesso sociale e reputazionale, non solo tecnico. Gli aggressori usano queste immagini per molestie, estorsione, impersonificazione e abuso di immagini intime non consensuale. Una volta create, possono essere copiate, ripubblicate e memorizzate nella cache su più piattaforme, rendendone difficile la rimozione. Le difese si concentrano su controlli del consenso, provenienza e watermarking, rilevamento degli abusi nei caricamenti, flussi di segnalazione e processi rapidi di rimozione. Controlli solidi della piattaforma possono ridurre la facilità con cui gli strumenti di IA vengono trasformati in violenza digitale.