Una classe di rischio è la categoria usata per classificare un sistema di IA in base al danno che potrebbe causare in uno specifico caso d'uso. Nelle leggi sull'IA basate sul rischio, lo stesso modello può avere obblighi molto diversi a seconda del contesto: un chatbot a basso impatto può avere obblighi di trasparenza leggeri, mentre un sistema usato nelle assunzioni, nell'analisi giuridica o in altre decisioni regolamentate può attivare controlli più rigorosi.
Questo è importante nella sicurezza informatica perché la classe di rischio determina le misure di protezione che devi implementare. I sistemi a rischio più elevato di solito richiedono documentazione, supervisione umana, registrazione, test, controllo degli accessi e tracciabilità degli input e degli output. In pratica, i team di sicurezza usano la classificazione per decidere se uno strumento può accedere a dati riservati, se un essere umano deve approvare il risultato e quanto monitoraggio sia necessario per rilevare abusi, prompt injection, fughe di dati o output inaffidabili. Una classe corretta riduce le lacune di conformità; una classe errata può esporre un'organizzazione a rischi legali, operativi e reputazionali.