CyberAI è un campo ibrido che combina competenze di cybersecurity con concetti e applicazioni dell'intelligenza artificiale. Comprende il modo in cui i sistemi di IA vengono costruiti, protetti, testati e governati, insieme alle attività di sicurezza tradizionali come il rilevamento delle minacce, la risposta agli incidenti, il controllo degli accessi e la gestione del rischio.
È importante perché l'IA fa ormai parte di molti strumenti aziendali e di difesa, dai chatbot ai motori di rilevamento e al triage automatizzato. Gli aggressori possono abusare dell'IA per il phishing, la generazione di codice o l'estrazione di dati, mentre i difensori possono usare il machine learning per individuare più rapidamente le anomalie o ridurre il rumore degli avvisi. Un approccio CyberAI aiuta i team di sicurezza a comprendere le debolezze dei modelli, il data poisoning, il prompt injection, i rischi per la privacy e l'automazione non sicura, così l'IA può essere distribuita senza creare nuove vie di attacco.