Embedded GenAI è IA generativa integrata direttamente in un'applicazione o in un flusso di lavoro, invece di essere offerta come chatbot separato. Può redigere testi, riassumere record, classificare casi, rispondere a domande da documenti interni o assistere con la generazione di codice e report all'interno dei sistemi aziendali.
Questo è importante nella sicurezza informatica perché il modello diventa parte del livello di controllo. I suoi input possono includere prompt, documenti, log, database e codice sorgente, quindi la superficie di attacco si estende oltre il modello stesso. I rischi comuni includono prompt injection da contenuti non attendibili, fuga di dati sensibili tramite il recupero, e output errati che influenzano le decisioni. I difensori riducono l'esposizione con accessi limitati, fonti di recupero attendibili, revisione umana per le azioni ad alto rischio, registrazione dei log, gate di approvazione e test del comportamento non sicuro del modello.