Il controllo dell'accesso agli strumenti è la pratica di limitare quali strumenti esterni, API o azioni di sistema un sistema di IA può usare durante il normale funzionamento o il testing. Invece di concedere a un modello un ampio potere, i difensori espongono solo le funzionalità approvate, come query in sola lettura, comandi con ambito strettamente definito o azioni approvate da un essere umano. L'accesso è spesso applicato con allowlist, credenziali a breve durata, limiti di autorizzazione e sandboxing.
Questo controllo è importante perché molti guasti dell'IA diventano incidenti di sicurezza solo quando il modello può agire nel mondo reale. Se un prompt injection o un errore del modello può attivare l'invio di email, modifiche a file, query di database o esecuzione di codice, l'impatto può diffondersi rapidamente. Negli attacchi, gli avversari cercano di indirizzare il modello verso l'uso non sicuro degli strumenti, l'esfiltrazione di dati o l'automazione non autorizzata. Nella difesa, un forte controllo dell'accesso agli strumenti riduce il raggio d'impatto, supporta la registrazione di audit e rende più facile fermare o contenere un sistema di IA che si comporta in modo inatteso.