Le affermazioni di sicurezza sono dichiarazioni che un fornitore fa su quanto un sistema di IA sia affidabile, sicuro, controllato o ben contenuto nell'uso reale. Nella sicurezza informatica, queste affermazioni contano perché acquirenti, regolatori e difensori devono sapere se il sistema può resistere agli abusi, limitare le azioni non intenzionali e andare in errore in modo sicuro.
Per l'IA agentica, le affermazioni di sicurezza sono particolarmente importanti perché il modello può navigare contenuti, usare strumenti o attivare flussi di lavoro. Gli aggressori possono provare prompt injection, istruzioni malevole o data poisoning per spingere il sistema oltre il comportamento previsto. Affermazioni di sicurezza solide dovrebbero essere supportate da test, limiti di autorizzazione, approvazione umana per le azioni ad alto rischio, registrazione, monitoraggio e criteri chiari di disattivazione. Senza prove, un'affermazione di essere