L'autorizzazione degli strumenti è il permesso che un sistema di IA ha di usare strumenti, API o servizi esterni invece di limitarsi a generare testo. In pratica, questo può consentire a un agente di cercare nei database, chiamare servizi cloud, inviare messaggi, eseguire script o attivare flussi di lavoro. Il livello di autorizzazione è importante perché un modello con ampio accesso agli strumenti può svolgere lavoro reale, ma può anche causare danni reali se viene usato in modo improprio, confuso o compromesso.
Nella sicurezza informatica, l'autorizzazione degli strumenti è un punto di controllo fondamentale sia per gli attaccanti sia per i difensori. Un attaccante che ottiene accesso a un agente di IA può abusare dei suoi strumenti per muoversi più rapidamente, raccogliere dati o alterare i sistemi senza dover scrivere malware per ogni singolo passaggio. I difensori riducono questo rischio con ambiti di strumenti a privilegi minimi, passaggi di approvazione per le azioni sensibili, autenticazione मजबूत, limiti di velocità e registrazione dettagliata di ogni chiamata agli strumenti. Una buona progettazione dell'autorizzazione degli strumenti tratta l'IA come automazione privilegiata, non come una semplice interfaccia di chat innocua.