Un servizio di inferenza è un sistema che ospita un modello di machine learning e restituisce previsioni, classificazioni, punteggi o output strutturati quando riceve dati. A differenza dell'addestramento del modello, l'inferenza è la fase operativa: il modello è già stato costruito e il servizio viene usato per rispondere alle richieste in modo rapido e ripetuto.
Nel campo della sicurezza informatica, i servizi di inferenza sono importanti perché possono automatizzare le decisioni. I difensori li usano per assegnare un punteggio ai messaggi di phishing, segnalare anomalie o arricchire gli avvisi. Anche gli aggressori possono abusarne inviando telemetria o contenuti a un endpoint del modello e trasformando il risultato in azioni successive, etichette di attività o decisioni di instradamento. Gli analisti dovrebbero monitorare chiamate API in uscita sospette, dati host serializzati e pattern di accodamento che convertono osservazioni grezze in istruzioni leggibili dalla macchina. Questi segnali possono rivelare un flusso di controllo malevolo nascosto dietro una normale integrazione di AI.