L'uso improprio degli strumenti è l'abuso delle azioni autorizzate di un sistema di IA, come leggere file, inviare messaggi, interrogare database o attivare flussi di lavoro, per produrre risultati che l'operatore non aveva intenzione di ottenere. Il modello potrebbe comportarsi in modo “corretto” dal punto di vista dei permessi, ma il risultato resta comunque insicuro perché l'azione è stata eseguita nel contesto sbagliato o per l'obiettivo sbagliato.
Nella sicurezza informatica, l'uso improprio degli strumenti è importante perché i sistemi agentici possono trasformare un problema di prompt in un problema di accesso. Se un attaccante riesce a iniettare istruzioni, confondere l'agente o manipolarne gli input, può indirizzare il sistema a divulgare dati, modificare registri, approvare richieste o eseguire attività al di fuori delle नीति.