La criminalità nell'era dell'IA è un'attività criminale che usa l'intelligenza artificiale per scalare frodi, inganni o coordinamento. I malintenzionati usano modelli generativi, automazione e analisi dei dati per produrre messaggi di phishing convincenti, voci sintetiche, identità false e social engineering mirato a una velocità e in un volume che gli attacchi manuali non possono eguagliare.
Questo è importante perché l'IA riduce il costo degli abusi e aumenta la qualità dell'inganno. I difensori possono trovarsi ad affrontare esche più credibili, ricognizione più rapida e adattamento automatizzato ai controlli di sicurezza. In pratica, i team di sicurezza rispondono con controlli di identità più rigorosi, rilevamento delle anomalie, filtraggio dei contenuti e revisione umana per le decisioni ad alto rischio. La stessa tecnologia può anche aiutare i difensori a smistare gli avvisi e individuare i modelli, ma solo se gestita con attenzione per evitare falsi positivi, eccessi e scarsa verificabilità.