Qwen3.8 Flash Next FP8 önizlemesi: 1 milyon token iddiasını nasıl test etmeli?

Qwen ekibi, Qwen3.8 Flash Next FP8 modelini gelecek Qwen4 mimarisine dair deneysel bir önizleme olarak yayımladı. Model kartı hibrit seyrek dikkat yapısı, uzun bağlam verimliliği ve FP8 nicemlemeyi öne çıkarıyor. Doğal bağlam sınırı 262 bin 144 token; YaRN uzatma yöntemiyle bir milyon tokene kadar kullanım tarif ediliyor.

Burada iki ayrım kritik. “Next” önizleme modeli, üretim için önerilen Qwen3.8 Flash ile aynı ürün değil. İkincisi, bir milyon tokenın API tarafından kabul edilmesi, içindeki her bilgiyi doğru bulma veya düşük maliyetle işleme garantisi değil. Uzun bağlamda konum, tekrar, dil ve sorgu türü başarıyı etkileyebilir.

FP8 ne sağlar?

FP8, model ağırlıkları ve hesaplamada daha düşük hassasiyet kullanarak bellek ve hız avantajı hedefler. Uygun donanım ve yazılımla daha büyük modeli daha verimli sunabilir. Nicemleme bazı görevlerde kalite kaybı yaratabilir; her hızlandırıcı aynı FP8 yolunu desteklemez.

Model kartı Transformers, vLLM, SGLang ve TokenSpeed gibi çalışma ortamlarını listeliyor. Sürüm uyumu önemlidir; eski kütüphane mimariyi tanımayabilir.

Nasıl başlanır?

Deneysel model üretim verisiyle değil, kamuya açık test belgeleriyle ağsız ortamda çalıştırılmalı. Önce 8K ve 32K bağlamda doğruluk ölçülür, sonra kademeli olarak 128K ve 262K'ya çıkılır. Bir milyon uzatma yalnız gerçek ihtiyaç ve yeterli donanım varsa denenmelidir.

Örnek uzun bağlam testi:

“Bu belge paketindeki her iddia için dosya adı ve bölüm göster. Başlangıç, orta ve son kısımdan eşit sayıda kanıt kullan. Bulamadığın bilgiyi uydurma. Çelişen tarihleri birleştirme; yan yana yaz.”

Test kümesine belgenin farklı noktalarına yerleştirilmiş bilinen yanıtlar eklenerek konuma göre başarı ölçülebilir.

Üç somut kullanım örneği

1. Büyük bir kamu dokümanı arşivinde kanıt yerini gösteren araştırma prototipi.
2. Uzun kod deposu özetinde dosya sonlarındaki kritik yapılandırmanın kaçırılıp kaçırılmadığını ölçmek.
3. Qwen3.8 Flash üretim modeliyle Next önizlemesini aynı görevde hız, bellek ve doğruluk açısından karşılaştırmak.

Lisans ve maliyet

Model kartında Qwen Community 1.0 lisansı yer alıyor. Kullanım öncesi ticari, dağıtım ve kabul koşulları okunmalıdır. Ağırlığın indirilebilir olması GPU, depolama ve enerji maliyetini kaldırmaz. Çok uzun bağlam bellek ve işlem süresini belirgin artırabilir. Bilgiler 1 Eylül 2026'da doğrulandı.

Üretime geçiş ölçütü

Önizleme modeli yalnız yeni mimariyi araştırmak için kullanılmalı. Üretim kararı için sabit sürüm, güvenlik değerlendirmesi, destek planı ve geri dönüş yolu gerekir. Doğruluk; kısa ve uzun bağlamda ayrı ölçülmeli. Hız kazanırken kaynak uydurma veya araç hatası artıyorsa toplam fayda düşer.

Sınırlar ve güvenlik

Uzun bağlama çok sayıda belge koymak veri erişim sınırlarını bulanıklaştırabilir. Kullanıcı yalnız görmeye yetkili olduğu belgeleri aynı isteğe eklemeli. Model istem içindeki zararlı talimata kapılabilir; her belge güvenilmeyen girdi sayılmalı. Araç çağrıları izinli liste ve insan onayıyla korunmalıdır.

Deneysel mimari beklenmeyen çökme, uyumsuzluk ve sessiz kalite değişimi gösterebilir. Model ve kütüphane sürümleri sabitlenmeli; üretim sistemi önizlemeye bağımlı kılınmamalıdır.

Uzun bağlam için ölçüm tablosu

Her bağlam basamağında giriş tokenı, tepe GPU belleği, ilk token süresi, toplam süre, doğru kanıt sayısı, uydurma ve maliyet kaydedilir. Aynı bilgi belgenin başına, ortasına ve sonuna yerleştirilerek konum etkisi ölçülür. Yalnız “iğneyi buldu” testi yeterli değildir; birbiriyle çelişen on belge arasında doğru tarih ve kaynağı seçmesi de sınanmalıdır.

YaRN uzatma açıldığında kısa bağlam performansının değişip değişmediği görülmeli. FP8 sürüm, daha yüksek hassasiyetli sürümle aynı görevlerde kıyaslanmalı. Bir milyon token denemesi donanımı taşırıyor veya doğru kanıt oranını düşürüyorsa RAG, bölümleme ya da çok aşamalı özet daha iyi olabilir.

Test verisi kamuya açık ve lisanslı olmalı. Hassas belge kullanılacaksa bütün bağlamın model sunucusuna taşındığı unutulmamalı. Sonuç raporu model kartındaki üst sınırı tekrarlamak yerine ekibin kendi güvenilir çalışma aralığını belirtmelidir.

Bağlam penceresi arttıkça istem içindeki kötü amaçlı talimat sayısı da artabilir. Belgeler kaynak ve güven düzeyine göre etiketlenmeli; hiçbir belge sistem yönergesi gibi yorumlanmamalıdır. Modelden gelen araç çağrısı, bağlamdaki metne dayansa bile politika geçidinden geçmelidir.

Önizleme modelinin güncellenmesi aynı kimlik altında davranışı değiştirebiliyorsa ağırlık karması ve kütüphane sürümü deney kaydına yazılmalı. Sonuç paylaşılırken hangi nicemleme, donanım ve bağlam ayarının kullanıldığı belirtilmelidir. Aksi hâlde başka ekip aynı “bir milyon token” deneyini adil biçimde tekrarlayamaz.

Üretim Qwen3.8 Flash ile Next önizlemesi aynı tabloda açıkça etiketlenmeli. Önizlemede görülen özellik ana sürümde varmış gibi belgeye yazılmamalı. Deney sona erdiğinde gereksiz ağırlıklar ve kapsayıcılar güvenli arşive alınmalı, fakat sonuç ve sürüm kaydı korunmalıdır. Canlı sistem desteklenmeyen model adına bağımlı bırakılmamalı; geri dönüş yolu denenmelidir.

Okuyucu bugün aynı soruyu 8K, 32K ve 128K bağlamda çalıştırıp doğruluk ile süre eğrisini çıkarabilir. Uzun bağlamı sayı yarışından gerçek kullanım testine çevirmek için Mülk Rehberi Gazetesi'ni takip edin.

Kaynaklar

• Hugging Face — Qwen3.8 Flash Next FP8 model card
• Qwen documentation