KONTROLLÜ ARAÇLAR

Laboratuvar

Bu araçlar planlama ve kavram doğrulama içindir. Gerçek GPU çalıştırmazlar; ölçüm alanları yalnızca senin girdiğin değerleri saklar.

Simülasyon

Context bütçesi

MaximumSystemTemplateInputRAGResponse

2.780 tokens1.316 token boş

Batch ve step

ÖrnekMicro batchAccumulationGPUEpoch

Effective batch: 16
Toplam optimizer step: 375

LoRA scale

RankAlphaMatris sayısıBoyut

LoRA α/r: 1.000
rsLoRA α/√r: 2.828
Adapter parametresi: 1.835.008

Türkçe token ölçümü

Sonuç uydurulmaz. Aynı metni iki gerçek tokenizer ile ölçüp değerleri gir.

Base tokenizerAday tokenizer

—Adayın base'e göre token farkı

Dataset karışımı

Toplam örnekStandart %Parafraz %Eksik bilgi %Negatif %Eskalasyon %

100%standard 1100 · paraphrase 200 · missing 300 · negative 200 · escalation 200

Ağırlıklı benchmark

Domain 35%Format 15%Safety 20%Uncertainty 15%Retention 15%

77.8/ 100

Template ve masking kontrolü

Tek bir örneği gerçek tokenizer ile render et.
BOS, role sınırları, assistant başlangıcı ve EOS'u görünür kıl.
Labels içinde prompt tokenlarının -100, cevap tokenlarının aktif olduğunu doğrula.
Inference'ta aynı template ve stop davranışını kullan.

4070 Ti Super planlama rehberi

Simülasyon

16 GB için güvenli başlangıç: 4-bit base, micro batch 1, context 1024–2048, gradient checkpointing. OOM sırası: batch → context → daha küçük model → offload. Bu kart gerçek bir koşunun kanıtı değildir.