Le condizioni di arresto sono limiti predefiniti che indicano a tester o operatori quando una valutazione, una distribuzione o un'azione automatizzata deve interrompersi. Possono basarsi su punteggi di sicurezza, controlli falliti, uso imprevisto di strumenti, violazioni delle policy, esposizione di dati o sul superamento di una soglia di capacità da parte di un modello. In pratica, trasformano una preoccupazione vaga come "questo sembra rischioso" in una regola applicabile.
Nel contesto della cybersecurity, le condizioni di arresto sono importanti perché i sistemi di IA possono interagire con dati sensibili, eseguire comandi o attivare strumenti a valle. Durante il red-teaming e i test di rilascio, impediscono che un comportamento non sicuro continui abbastanza a lungo da causare danni reali. Nella difesa, vengono usate come gate di rilascio, trigger di rollback e checkpoint di revisione umana. Negli attacchi, condizioni di arresto mancanti o deboli possono permettere a una catena di prompt injection, a un loop di agenti o a una distribuzione configurata male di continuare a funzionare dopo che avrebbe dovuto essere sospesa. Condizioni di arresto solide rendono verificabili le affermazioni di sicurezza: definiscono quando fermarsi, chi può fermare il processo e cosa succede dopo.