I carichi di lavoro di IA locali sono attività di IA eseguite sul dispositivo stesso anziché essere inviate a un servizio cloud remoto. Il modello, i prompt, gli output e talvolta i dati di addestramento restano sull'endpoint, utilizzando CPU locale, GPU o hardware AI dedicato. Questo può migliorare la privacy, ridurre la latenza e mantenere i dati sensibili all'interno del perimetro di fiducia di un'organizzazione.
In ambito di sicurezza informatica, questo cambiamento è importante perché l'endpoint diventa un bersaglio di maggior valore. Se un aggressore compromette una macchina che esegue IA locale, potrebbe sottrarre file del modello, prompt, output memorizzati nella cache o credenziali usate per gestire il carico di lavoro. Potrebbe anche manomettere i risultati o abusare degli strumenti di orchestrazione in configurazioni distribuite. Le difese includono la crittografia completa del disco, l'accesso con privilegi minimi, le patch, software firmato, il monitoraggio dell'endpoint e la separazione di rete per il traffico AI. L'IA locale riduce l'esposizione al cloud, ma non elimina la necessità di forti controlli su workstation e infrastruttura.