Il video generato dall'AI è un video creato interamente da strumenti di AI generativa invece di essere registrato da una videocamera. Può sembrare realistico, ma i suoi fotogrammi, il movimento, i volti o le voci possono essere sintetizzati anziché catturati da un evento reale. Nella sicurezza informatica, questo è importante perché il video sintetico può essere usato per impersonare dirigenti, fabbricare prove, amplificare truffe o diffondere disinformazione su larga scala.
I difensori cercano segnali di provenienza, watermark e strumenti di rilevamento che confrontano i modelli dei media con artefatti noti delle videocamere o con la cronologia delle modifiche. Le piattaforme possono anche classificare o filtrare in modo diverso i clip sintetici, perché la visibilità può essere importante quanto l'accesso al caricamento. Un video non deve necessariamente essere vietato per essere rischioso; se viene amplificato nei feed, può comunque influenzare gli utenti, fare pressione sulle vittime o supportare l'ingegneria sociale. La sfida per la sicurezza è distinguere tra filmati autentici, modifiche assistite dall'AI e media completamente sintetici.