Un Livello di Capacità Critica è una soglia di sicurezza usata per valutare quando un sistema di IA ha acquisito una capacità cyber sufficiente da richiedere controlli più rigorosi. In pratica, si tratta di un limite di policy: al di sotto di esso, un modello può essere utilizzabile per attività di sicurezza limitate; a quel livello o superiore, il modello può richiedere accesso più restrittivo, monitoraggio, test e limitazioni di distribuzione più severi.
Questo è importante perché i modelli con capacità cyber possono avere un duplice uso. Le stesse funzionalità che aiutano i difensori, come l'analisi del codice, la scoperta di vulnerabilità o il supporto alla correzione, possono anche aiutare gli attaccanti ad automatizzare la ricognizione, lo sviluppo di exploit o i flussi di lavoro di phishing. I team di sicurezza usano soglie come questa per decidere quando un modello debba essere sottoposto a revisione umana, registrato in modo più aggressivo o mantenuto in programmi pilota ristretti. Nei flussi di lavoro difensivi, il livello aiuta a separare l'automazione utile dalle capacità troppo rischiose da rilasciare su larga scala.