La capacità critica di cybersicurezza è una soglia usata nella sicurezza dell'IA per descrivere un modello che potrebbe essere in grado di svolgere attività avanzate di attacco informatico con un aiuto umano minimo. A questo livello, un sistema potrebbe potenzialmente scoprire e adattare exploit, concatenare i passaggi in un attacco completo o produrre percorsi di exploit zero-day funzionanti contro bersagli rafforzati. L'etichetta non riguarda la competenza generale di programmazione; riguarda il potere offensivo nella sicurezza.
Questo è importante perché un modello vicino a questa soglia cambia il profilo di rischio dello sviluppo e dell'implementazione. I team di sicurezza potrebbero aver bisogno di valutazioni più solide, di un accesso più rigoroso a strumenti e reti e di decisioni di rilascio più lente. Negli attacchi, una capacità del genere potrebbe automatizzare la ricognizione, lo sviluppo di exploit e la pianificazione post-exploit. Nelle difese, gli stessi modelli possono aiutare ad analizzare i log, smistare gli avvisi e velocizzare la risposta agli incidenti, ma solo se sono governati con attenzione. L'obiettivo pratico è impedire che l'IA avanzata diventi un facile moltiplicatore di forza per gli aggressori prima che i controlli siano pronti.