Giovedi 29 Ottobre 2026 23:08:47 GMT+01:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Monitoraggio a livello di traiettoria

Osservare la sequenza completa delle azioni di un sistema di IA nel tempo, non solo i singoli output.

Il monitoraggio a livello di traiettoria è la pratica di osservare la sequenza completa delle azioni di un sistema di IA nel tempo, anziché valutare ogni output in isolamento. Per i sistemi agentici, una "traiettoria" può includere prompt, chiamate agli strumenti, cambiamenti di stato, richieste di rete, tentativi ripetuti e il risultato finale. Questo offre ai difensori una cronologia di ciò che il sistema ha effettivamente fatto, non solo di ciò che ha detto.

Questo è importante perché molti fallimenti della sicurezza dell'IA diventano visibili solo attraverso più passaggi. Un modello può sembrare innocuo in una singola risposta, ma poi concatenare azioni in esfiltrazione di dati, uso improprio dei privilegi, aggiramento delle policy o accesso non sicuro agli strumenti. Il monitoraggio a livello di traiettoria aiuta a rilevare percorsi anomali, applicare guardrail e ricostruire gli incidenti per le indagini. In pratica, si basa su log dettagliati, esecuzione tracciabile degli strumenti e avvisi su comportamenti rischiosi come tentativi falliti ripetuti, accesso insolito a destinazioni o escalation inattesa all'interno di un flusso di lavoro agentico.

← indice WIKICROOK