Una soglia di cybersecurity è una linea di capacità usata per decidere quando un sistema, soprattutto un modello di IA, è diventato abbastanza potente da richiedere controlli più rigorosi o un rilascio più lento. Non è solo un punteggio di benchmark; è un fattore di attivazione delle policy che collega la capacità misurata alla gestione del rischio.
Questo è importante perché i modelli che possono aiutare con la scansione, il phishing, la ricerca di exploit o l'automazione basata su strumenti possono anche aumentare l'efficienza degli attaccanti. I team di sicurezza usano le soglie per decidere quando limitare l'accesso, rimuovere gli strumenti, aggiungere monitoraggio o mantenere un modello in un sandbox. In difesa, la soglia aiuta a evitare che un sistema venga esposto ampiamente prima che il suo comportamento sia compreso. Negli attacchi, superare una simile linea può significare che un modello può ora essere abusato per ricognizione o pianificazione, anche se era stato costruito per attività legittime. Il concetto trasforma la sicurezza in un controllo operativo: una volta che la capacità aumenta, devono aumentare anche il contenimento e le autorizzazioni.