06 · GENELLEME
DoğrulandıLoss, Overfitting ve Forgetting
Loss'u iş kalitesi sanma; domain, format, güvenlik ve retention metriklerini birlikte kullan.
Training loss optimize edilen hedefe uyumu, validation loss görülmemiş split üzerindeki genellemeyi izler. Train düşerken validation yükseliyorsa overfitting araştırılır.
Catastrophic forgetting farklıdır: yeni domain metriği yükselirken eski/genel yetenek geriler. LoRA tabanı korur ama aktif adapter davranışsal girişim oluşturabilir.
01
İlk düşünce
Daha düşük validation loss her zaman daha iyi üretim modelidir.
02
Düzeltme
Loss optimize edilen token hedefidir; JSON geçerliliği, görev doğruluğu ve güvenlik ayrı ölçülür.
03
Karar kuralı
Checkpoint'i validation loss + görev metriği + retention eşiğiyle seç.