Lo sfruttamento dell'AI è l'uso di strumenti, modelli o output generati dall'intelligenza artificiale per supportare attività di attacco. Ciò può includere la scrittura di messaggi di phishing convincenti, la generazione di codice malevolo, l'automazione della ricognizione, la traduzione di esche o la produzione di impersonificazione vocale e testuale realistica. Il termine non significa che l'IA sia sempre l'arma principale; spesso agisce come acceleratore per tattiche già esistenti.
È importante perché l'IA può ridurre le competenze, il tempo e i costi necessari per portare avanti truffe e campagne di intrusione su larga scala. I difensori possono osservare un social engineering più rapido e rifinito, impersonificazioni più mirate e messaggi più adattivi che eludono semplici regole di rilevamento. In pratica, i team di sicurezza rispondono rafforzando i controlli sull'identità, formando gli utenti a verificare le richieste tramite canali esterni, monitorando pattern insoliti di automazione e rivedendo il modo in cui i dati sensibili vengono esposti ai sistemi di IA che potrebbero essere abusati.