Una soglia critica di cybersicurezza è una classificazione del rischio per un modello di IA le cui capacità possono sconfinare nell'offensiva informatica autonoma, ad esempio scoprendo debolezze sfruttabili, concatenando vulnerabilità o supportando la pianificazione di attacchi con un intervento umano limitato. Non si tratta di un'affermazione che il modello sia di per sé malevolo; è un avviso che il modello potrebbe ridurre in modo significativo l'abilità, il tempo o lo sforzo necessari per portare a termine azioni dannose.
Questo è importante perché l'IA di frontiera può aiutare sia i difensori sia gli attaccanti. Nella difesa, la soglia viene usata per attivare revisioni più rigorose, red teaming, sandboxing, controlli di accesso e limiti all'uso degli strumenti prima del rilascio. Negli attacchi, un modello vicino a questa soglia potrebbe accelerare la ricognizione, la ricerca di exploit, il perfezionamento del phishing o la pianificazione post-exploitation. Trattare l'etichetta come un segnale di rischio aiuta le organizzazioni a gestire il deployment con attenzione ed evitare di trasformare un assistente potente in un motore automatizzato di uso improprio.