Un sistema agente AI autonomo è un software che può scomporre un obiettivo in passaggi, scegliere strumenti ed eseguire azioni con un input umano diretto limitato. A differenza di un singolo prompt di chat, un agente può ispezionare file, chiamare API, interrogare database, pianificare processi o attivare flussi di lavoro, decidendo cosa fare dopo in base ai risultati precedenti.
Nella sicurezza informatica, questo è importante perché l'autonomia aumenta sia le capacità sia i rischi. Un agente compromesso può esporre dati, abusare delle credenziali di servizio o eseguire azioni non autorizzate alla velocità della macchina. Gli aggressori possono anche indirizzare un agente tramite prompt injection, documenti avvelenati o output degli strumenti manipolati, in modo che il sistema segua istruzioni ostili. I difensori riducono il rischio limitando i permessi degli strumenti, isolando gli agenti dai sistemi sensibili, registrando ogni azione, richiedendo l'approvazione umana per i passaggi ad alto impatto e utilizzando credenziali con privilegi minimi e durata breve. I test di sicurezza dovrebbero trattare l'agente, i suoi prompt, i suoi strumenti e le sue fonti dati come parte di un'unica superficie di attacco.