Giovedi 22 Ottobre 2026 05:15:56 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Segnale decisionale

Output del modello usato per attivare o guidare un'azione successiva in un workflow.

Un segnale decisionale è un output del modello che non costituisce la risposta finale in sé, ma un valore che un workflow usa per compiere il passo successivo. Può essere un'etichetta, un punteggio, un livello di confidenza, una graduatoria o un risultato binario sì/no. Nella sicurezza informatica, questi segnali spesso alimentano filtri, triage degli avvisi, controlli di accesso, moderazione dei contenuti o passaggi automatizzati a analisti umani.

È importante perché, quando l'output del modello guida un'azione, gli errori diventano rischi operativi. Gli attaccanti possono tentare prompt injection, data poisoning o input avversari per deviare il segnale verso un esito sfavorevole, come approvare contenuti dannosi o sopprimere un avviso. I difensori riducono questo rischio limitando l'autorità del modello, convalidando gli input, impostando soglie, registrando le decisioni e mantenendo il coinvolgimento umano per le azioni ad alto impatto. Tratta il segnale come un input di controllo, non come una risposta in chat.

← indice WIKICROOK