Gli attacchi abilitati dall'IA sono operazioni informatiche che usano strumenti automatizzati o generativi per migliorare scala, velocità o realismo. Gli aggressori possono usare l'IA per scrivere messaggi di phishing convincenti, generare immagini o audio falsi, automatizzare la ricognizione o adattare il malware e i contenuti di ingegneria sociale a obiettivi diversi. L'obiettivo non è sempre creare un nuovo tipo di attacco, ma rendere le tecniche esistenti più difficili da rilevare e più efficienti da eseguire.
Questi attacchi sono importanti perché riducono il costo dell'inganno e aumentano il volume di attività malevole che i team di sicurezza devono esaminare. In pratica, i difensori possono osservare un phishing più personalizzato, campagne più rapide di indovinamento delle password, identità sintetiche o impersonificazione basata su deepfake. Le risposte difensive includono una verifica dell'identità più solida, filtri per la posta elettronica, rilevamento delle anomalie, formazione degli utenti e revisione umana per le richieste ad alto rischio. L'IA aiuta anche i difensori automatizzando il triage e individuando i modelli, ma può anche alzare l'asticella di ciò che viene considerato una minaccia credibile.