Un chatbot di supporto è un sistema automatizzato che risponde alle domande dei clienti, spesso utilizzando documenti approvati, modelli di risposta o contenuti recuperati da siti web. Alcuni sistemi generano risposte con l’intelligenza artificiale, mentre altri seguono script predefiniti o alberi decisionali.
Nella cybersicurezza, le fonti a cui un chatbot può accedere sono importanti: il testo nascosto di una pagina o contenuti recuperati non attendibili possono influenzare una risposta se il sistema li considera autorevoli. Gli aggressori possono sfruttare questa possibilità tramite prompt injection, mentre una gestione inadeguata dei contenuti può portare a indicazioni fuorvianti. Tra le difese figurano la limitazione del recupero alle fonti approvate, la separazione delle istruzioni dai contenuti forniti dagli utenti e la verifica delle risposte rispetto a politiche sottoposte a controllo delle versioni. Per argomenti sensibili come la cancellazione di un account o i reclami relativi alla privacy, regole verificabili e percorsi di escalation aiutano a garantire che le risposte non dipendano da contenuti web arbitrari.