Un AI worm è un pattern di propagazione simile a un worm in cui i contenuti generati dal modello trasportano istruzioni malevole in file, messaggi o flussi di lavoro successivi. A differenza del malware tradizionale, non ha bisogno di eseguire codice da solo. Sopravvive invece venendo copiato, riscritto o riutilizzato da un assistente AI che considera le istruzioni nascoste come indicazioni legittime.
Questo è importante perché le funzionalità AI negli strumenti per ufficio, nei sistemi di chat e nei generatori di file possono sfumare il confine tra dati e controllo. Gli aggressori possono nascondere payload di prompt injection in documenti o altri contenuti, così che il modello li ripeta in una nuova bozza, un modello o un artefatto condiviso. Le difese si concentrano su solidi confini di fiducia: trattare il testo del documento come input non affidabile, ispezionare o rimuovere contenuti e metadati nascosti, limitare ciò che il modello può portare avanti e richiedere una revisione umana prima che l'output generato venga riutilizzato a valle.