Kutup Baud nasılçalışır?

Bir bakışta Kutup Baud

• Yeni mimari28 → 30 blok

  2 yapı bloğu, 8 kontrol belirteci, bir karar başlığı ve 5 biçim kuralı; hepsi tek GGUF dosyasında.

• Tam ince ayar627,5 M

  ağırlığın tümü eğitildi; LoRA bağdaştırıcısı değil, modelin kendisi.

• Tarayıcınızda395 MB

  bir kez iner; WebAssembly ve WebGPU ile %100 tarayıcıda çalışır.

• Kapalı kitap sınav%37,3

  Tarayıcınızın çalıştırdığı dosya (Q4_K_M), 713 soruda. 27 milyar parametreli öğretmen kapalı kitap: %38,1; değişmemiş Qwen3-0.6B: %10,4.

Fikir, tek bir makinede

Baud’u bir oyma tezgâhı gibi düşünün: önce hangi şablonun gerektiğine karar verir, sonra kalem yalnızca o şablonun açık pencerelerinden keser.

Bir soru nasıl yanıtlanır?

Sunucudan yalnızca model dosyaları bir kez iner. Soru ve yanıt tarayıcınızda kalır.

Plan: dört soru, tek geçiş

Baud yazmaya başlamadan önce, mesajınız hakkında dört tipli soruyu yanıtlar. Bu, ayrı bir model değil; aynı dosyanın karar başlığıdır ve llama.cpp’nin karar modeli arayüzüyle (System One) çalışır.

Bu olasılıklar, kurulu modelin tarayıcıda verdiği gerçek değerlerdir.

Altı biçim, iki kapı

Biçimi karar başlığı seçer; dilbilgisi kuralı (GBNF) o biçimi yazım sırasında zorunlu kılar. Kurallar model dosyasının içinde saklanır.

Qwen3-0.6B ile Kutup Baud arasındaki fark

Dosyanın içinde ne var?

Yapı blokları, son bloğun kopyası olarak başlar; çıkış izdüşümleri sıfırlandığı için başta hiçbir şey değiştirmezler ve yalnızca temel modelin bilmediğini öğrenirler.

Tam ince ayar ve yeni mimari, birlikte

Neden ikisi birden? Yeni bloklar ve belirteçler yapı motorunu taşır; tam ince ayar ise modelin geri kalanının bu motorla birlikte çalışmayı ve protokol bilgisini öğrenmesini sağlar. Yalnızca ek eğitmek (LoRA) temel modeli olduğu gibi bırakırdı.

Baud nasıl öğrendi?

Qwen3-0.6B’nin tüm ağırlıkları yeniden eğitildi (LoRA değil, tam ince ayar). Öğretmen, 27 milyar parametreli açık bir model; öğrenci, tarayıcıya sığan 0,6 milyarlık Baud.

1. A Belgeler2.195 pasaj; 4 protokol, 34 belge
2. B ÖğretmenQwen3.8-27B 32.773 soru-yanıt yazdı; sıkı kontrolden 27.988 geçti
3. C Kodla üretilen2.297 örnek: çerçeveler, kodlar, tablolar; her değer kesin
4. D Eğitim seti37.746 sohbet + 79.887 karar örneği; %3 ayrılmış
5. E EğitimÖnce yalnız yeni parçalar (300 adım), sonra tüm ağırlıklar
6. F Sınav713 soruluk kapalı kitap sınav
7. G Dışa aktarmaGGUF, Q4_K_M; parçalara bölündü

Bilgi nereden geliyor?

Belgeleri yalnızca öğretmen model okudu ve onlardan kendi sözcükleriyle soru-yanıt yazdı. Belge metni eğitim metni olarak kullanılmadı, yayımlanmadı ve Baud ile gelmez.

Ne kadar iyi?

Sınav soruları belgelerden yazıldı ve eğitimden ayrıldı. Baud, temel model ve 27 milyar parametreli öğretmen modeli aynı soruları belge görmeden yanıtladı; yanıtları, kimin yazdığını bilmeden öğretmen değerlendirdi. “Q4_K_M, tarayıcıdaki dosya” satırı, tarayıcınızın indirdiği nicelenmiş dosyanın, uygulamanın yolunu izleyerek (karar başlığı planlar, biçim kuralıyla yazar) llama.cpp’de aldığı sonuçtur.

Karar başlığı

Ayrılmış mesajlarda dört karar sorusunun doğruluğu:

• Protokol%99,3
• Biçim%82,0
• Kapsamda mı%100
• İngilizce mi%100

• %82,1ayrılmış sohbetlerde doğru biçim, dil ve kapsam
• 118 / 120dilbilgisiyle yazılan yanıt kurala tam uydu (Q4_K_M, llama-server)
• 700en çok yanıt belirteci
• 0sıcaklık: aynı soru aynı yanıtı verir

Boyut ve kalite

Nicelemede ağırlıklar daha az bitle saklanır: dosya küçülür, perplexity biraz değişir. Üç aday dosya sınavı uygulamanın yolundan geçti; aralarındaki farklar 713 soruda istatistiksel olarak anlamlı değil (yaklaşık ±1,8 puan). Tarayıcı vurgulanan dosyayı indirir: indirme boyutu ile doğruluğun dengesi.

• bf16perplexity 4,661.202 MiB
• Q8_0perplexity 4,64641 MiB
• Q5_K_Mperplexity 4,44 · sınav %38,1444 MiB
• Q4_K_Mperplexity 4,82 · sınav %37,3395 MiB
• IQ4_XSperplexity 4,62 · sınav %36,2366 MiB

Başka yerde kullanmak

Aynı dosya llama.cpp ile çalışır. Hugging Face’te: yunusemrejr/Baud-0.6B ↗

llama-server -m baud-0.6b-q4_k_m-00001-of-00005.gguf -c 2048
curl localhost:8080/v1/systemone -d '{"state": "Decode 11 03 00 6B 00 03 76 87",
  "questions": {"shape": {"type": "choice", "instructions": "Which answer shape fits the message best?",
  "criteria": {"prose": null, "table": null, "steps": null, "list": null, "frame": null, "code": null}}}}'

Sınırlar

• 0,6 milyar parametre: Baud yanılabilir; ayrıntı küçüldükçe olasılık artar.
• Kayıt haritaları, üretici varsayılanları ve ürün davranışı standartlarda yoktur, Baud’da da yoktur. Bunları cihaz belgesinden alın.
• Uygulamanın kontrolü yalnızca yeniden hesaplayabildiğini doğrular (CRC, LRC, MBAP uzunluğu, çerçeve başlığı, onaltılık değerler, konu eşleşmesi); Baud’un açıklamalarını doğrulamaz.
• Baud sayı çevirmede ve çerçeve kurmada en zayıf yerindedir: onaltılık bir değeri ondalığa çevirirken ya da istek baytlarını yazarken yanılabilir. Çerçeve tablolarında uygulama bunu işaretler; kurduğu baytları ise cihaz belgesiyle karşılaştırın.
• Kod yazmak Baud’un güçlü yanı değildir; kısa komutları ve örnekleri kontrol edin.
• Sınav, belgelerden yazılmış soruları ölçer; bağımsız bir saha doğruluğu ölçümü değildir.
• Kritik ayarları üretici belgesi, tesis prosedürü ve yetkili bir mühendisle doğrulayın.