Le difese autonome sono strumenti o flussi di lavoro di sicurezza che usano l’IA per analizzare le attività, prendere decisioni o agire con un intervento umano limitato. Possono, per esempio, assegnare priorità agli avvisi, isolare un endpoint o bloccare il traffico sospetto. La loro rapidità può aiutare i difensori a rispondere alle minacce su vasta scala, ma le decisioni automatizzate possono anche avere ripercussioni su sistemi e dati sensibili.
Negli attacchi reali, gli avversari possono cercare di manipolare una difesa assistita dall’IA affinché non rilevi attività dannose o intraprenda un’azione non sicura. La prompt injection o i contenuti ostili elaborati da un flusso di lavoro basato sull’IA potrebbero alterarne l’analisi, mentre autorizzazioni eccessive possono amplificarne le conseguenze. Tra le misure di difesa vi sono limitare l’accesso di ciascuno strumento, richiedere un’approvazione per le azioni ad alto impatto, registrare l’uso degli strumenti e convalidare le decisioni importanti mediante verifiche indipendenti o revisione umana.