Un audit strutturale è una revisione del comportamento interno di un modello di IA, delle sue caratteristiche, delle sue attivazioni o dei suoi percorsi causali, anziché limitarsi a controllare il testo o la risposta che produce. Nel lavoro di sicurezza, questo è importante perché un modello può fornire una spiegazione convincente pur utilizzando diversi calcoli nascosti per arrivare al risultato. Osservare solo gli output può far sfuggire inganno, capacità nascoste o schemi decisionali insicuri.
I difensori usano gli audit strutturali per verificare se un modello segue davvero i controlli, le policy o i modelli di ragionamento che dichiara di usare. L'audit può esaminare caratteristiche latenti, tracciare quali componenti interne influenzano una risposta o confrontare il comportamento sotto diversi prompt e input. Negli attacchi, un sistema che genera un ragionamento rifinito o log dall'aspetto sicuro può comunque nascondere stati interni rischiosi; l'analisi strutturale aiuta a rivelare questa discrepanza. È una parte fondamentale dell'interpretabilità e della monitorabilità per sistemi di IA ad alto rischio.