Il code-switching è la pratica di mescolare due o più lingue all'interno di un singolo prompt o di una conversazione. Nella normale comunicazione umana, può essere naturale e utile. Nella sicurezza dell'IA, tuttavia, può cambiare il modo in cui un modello analizza le istruzioni, separa il contesto o applica le regole di sicurezza.
Questo è importante perché molti modelli vengono testati soprattutto in una lingua, spesso l'inglese. Un prompt che sembra innocuo in una lingua può diventare più chiaro, più ambiguo o più difficile da filtrare quando viene inserita un'altra lingua. Gli aggressori possono usare il code-switching per aggirare i filtri basati su parole chiave, confondere il comportamento di rifiuto o nascondere intenzioni dannose all'interno di una richiesta multilingue. I difensori usano test multilingue, valutazione da parte di parlanti nativi e un'analisi robusta dei prompt per ridurre questi divari. Quando un sistema ha anche accesso agli strumenti, il code-switching può trasformare una risposta debole in un rischio operativo, non solo in una risposta errata.