06 · GENELLEME

Doğrulandı

Loss, Overfitting ve Forgetting

Loss'u iş kalitesi sanma; domain, format, güvenlik ve retention metriklerini birlikte kullan.

Training loss optimize edilen hedefe uyumu, validation loss görülmemiş split üzerindeki genellemeyi izler. Train düşerken validation yükseliyorsa overfitting araştırılır.

Catastrophic forgetting farklıdır: yeni domain metriği yükselirken eski/genel yetenek geriler. LoRA tabanı korur ama aktif adapter davranışsal girişim oluşturabilir.

01

İlk düşünce

Daha düşük validation loss her zaman daha iyi üretim modelidir.

02

Düzeltme

Loss optimize edilen token hedefidir; JSON geçerliliği, görev doğruluğu ve güvenlik ayrı ölçülür.

03

Karar kuralı

Checkpoint'i validation loss + görev metriği + retention eşiğiyle seç.