Venerdi 23 Ottobre 2026 12:12:04 GMT+02:00

Netcrook

HomeManifesto
News
Techcrook
Geocrook
WikicrookTeamAppContatti
ItalianoEnglish

WIKICROOK

Harness di valutazione

Il software e le regole usati per eseguire, valutare e contenere un test di un modello.

Un harness di valutazione è il software, gli script, le regole e la logica di controllo usati per eseguire il test di un modello e valutarne i risultati. Può definire i prompt, le attività obiettivo, i limiti di tempo, gli strumenti consentiti, l'accesso alla rete, la registrazione dei log e le condizioni di arresto. In altre parole, è il wrapper che trasforma un modello grezzo in un esperimento controllato.

Nella sicurezza informatica, l'harness conta quanto il modello che viene testato. Un harness debole può esporre credenziali, raggiungere servizi di produzione o lasciare che un test si comporti come un vero attacco invece che come una simulazione. I difensori usano una progettazione rigorosa dell'harness per mantenere le valutazioni isolate con obiettivi sintetici, privilegi minimi, controlli di uscita e output verificabili. Gli aggressori possono cercare di sfruttare un harness tramite prompt injection, abuso degli strumenti o reward hacking, quindi il contenimento fa parte del perimetro di sicurezza.

← indice WIKICROOK