La frode potenziata dall'AI è una frode che usa IA generativa o sintetica per imitare persone, documenti, voci, email, messaggi di chat o altri segnali affidabili. Invece di affidarsi solo all'impersonificazione manuale, gli aggressori usano l'IA per rendere richieste e identità false più credibili e più difficili da individuare.
Questo è importante perché molte decisioni di sicurezza e di business dipendono ancora dalla fiducia umana nella comunicazione di routine. Testi sintetici, clonazione vocale e documenti fabbricati possono essere usati nel phishing, nella compromissione della posta elettronica aziendale, nelle truffe sulle fatture, nelle false chiamate di assistenza e nei tentativi di aggirare la verifica dell'identità. I difensori riducono questo rischio aggiungendo attrito alle azioni sensibili: verifica fuori banda, doppia approvazione, rigorosa prova dell'identità e controlli accurati sulla provenienza dei documenti e sulle richieste dei fornitori. In pratica, l'obiettivo è fare in modo che l'inganno generato dall'IA fallisca quando raggiunge flussi di lavoro ad alto rischio.