Sabato 24 Ottobre 2026 05:37:51 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Tool Permissioning

La pratica di limitare quali azioni esterne può eseguire un agente automatizzato.

Il tool permissioning è la pratica di limitare quali azioni esterne può eseguire un agente automatizzato. Invece di concedere a un sistema di IA un controllo ampio, i difensori delimitano ogni strumento a un'attività, account, percorso di rete o insieme di dati specifico. Un plugin del browser può leggere le pagine ma non inviare moduli; uno strumento per i file può esaminare i log ma non eliminarli; uno strumento di pagamento o di amministrazione può richiedere un'approvazione aggiuntiva.

Questo è importante perché molti rischi dell'IA derivano dall'azione, non dall'output. Un agente che può navigare, inviare richieste o usare credenziali in tempo reale può oltrepassare i confini, interagire con utenti reali o modificare i sistemi se le sue autorizzazioni sono troppo ampie. Gli aggressori possono cercare di sfruttare quella fiducia indirizzando l'agente verso chiamate non sicure, mentre i difensori usano il privilegio minimo, allowlist, approvazione umana per i passaggi rischiosi, registri di audit e controlli di uscita per mantenere l'automazione contenuta.

← indice WIKICROOK