LFM2.5-DSpark neyi hızlandırıyor? MacBook'ta yerel yapay zekâ için yeni yol
Liquid AI, üç LFM2.5 modeli için “taslak model” yayımladı. Hedef model her kelime parçasını doğruladığı için açgözlü çözümlemede çıktı değişmeden hız artışı hedefleniyor; 3,18 kata varan rakamlar ise şirket testlerine dayanıyor.
0 okunma4 dk okumaLiquid AI — LFM2.5-DSpark
Liquid AI, 20 Ağustos 2026'da LFM2.5 ailesinin 1.2B-Instruct, 2.6B ve 8B-A1B modelleri için DSpark taslak kontrol noktalarını yayımladı. Yeni dosyalar başlı başına daha akıllı bir sohbet modeli değil; mevcut hedef modelin metin üretmesini hızlandırmak için onun önünde çalışan küçük yardımcı modeller.
Şirket, tek H100 GPU'da 3,18 kata, Apple Silicon tabanlı cihazlarda 2,87 kata varan hız artışı ölçtüğünü bildiriyor. Bu üst sınırlar Liquid AI'nin kendi test koşullarına ait. Model, donanım, istem uzunluğu, kabul edilen taslak oranı ve kullanılan yazılım değiştiğinde sonuç da değişebilir; “her bilgisayarda üç kat hızlı” şeklinde okunmamalı.
Spekülatif çözümleme nasıl çalışıyor?
Normal metin üretiminde büyük model bir sonraki kelime parçasını çıkarır, ardından aynı işlemi tekrarlar. Ağırlıkların bellekten taşınması özellikle yerel cihazlarda beklemeyi büyütebilir. DSpark'ta daha küçük taslak model bir seferde birkaç aday parça öneriyor; asıl LFM2.5 modeli bu adayların tamamını birlikte kontrol ediyor. Kabul edilen parçalar tek tek yeniden üretilmeden ilerlemeye ekleniyor, reddedilen noktada hedef model olağan üretime dönüyor.
Liquid AI, hedef model her adayı doğruladığı için sıcaklık sıfır ve açgözlü çözümleme gibi kesin koşullarda çıktının hedef modelin tek başına üreteceği sonuçla aynı kaldığını belirtiyor. Bu önemli bir sınır: Rastlantısal örnekleme ayarları, farklı çalışma zamanları veya başka optimizasyonlarla “birebir aynı çıktı” varsayımı ayrıca test edilmeli.
DSpark, LFM2.5-1.2B-Instruct, LFM2.5-2.6B ve karışım-uzmanlı LFM2.5-8B-A1B için sunuluyor. Safetensors ve GGUF dosyaları Hugging Face üzerinden erişilebilir; llama.cpp ve SGLang desteği ilgili projelere yukarı akış katkısı olarak eklendi. Model kartları hangi taslak dosyanın hangi hedef modelle eşleştirileceğini gösteriyor.
Kimler kullanabilir, nasıl başlanır?
Bu araç, yerel veya kendi sunucusunda LFM2.5 çalıştıran geliştiricilere ve altyapı ekiplerine hitap ediyor. Sadece bir sohbet uygulaması indirmek isteyen kullanıcı için hazır tüketici ürünü değil; uyumlu hedef model, yeterli bellek, llama.cpp ya da SGLang kurulumu ve komut satırı bilgisi gerekiyor.
En güvenli başlangıç akışı şöyle:
- Hugging Face'teki resmî model kartından hedef LFM2.5 sürümü ile eşleşen DSpark dosyasını seçin.
- Kullandığınız llama.cpp veya SGLang sürümünün DSpark desteğini içerdiğini doğrulayın.
- Önce kısa ve tekrar edilebilir bir istemi sıcaklık sıfırda hem normal hem taslaklı çalıştırın.
- Yalnız saniyeye bakmayın; ilk token süresi, saniyedeki token, bellek kullanımı ve çıktı eşitliğini birlikte kaydedin.
Üç gerçekçi kullanım örneği bulunuyor:
- Şirket içi, internete veri göndermeyen sık sorulan sorular asistanının daha seri yanıt vermesi.
- Yerel kod yardımcısında uzun açıklama ve test taslağı üretirken bekleme süresinin azaltılması.
- Bir klasördeki teknik belgeleri özetleyen çevrim dışı aracın düşük gecikmeyle çalıştırılması.
Karşılaştırma için özgün bir test istemi şöyle olabilir:
“Aşağıdaki teknik metni beş maddede özetle. Metinde bulunmayan hiçbir sayı ekleme; her maddenin sonuna dayandığı paragraf numarasını yaz. Sonunda belirsiz veya çelişkili gördüğün noktaları ayrı listele.”
Aynı istem, sabit ayarlar ve aynı hedef modelle iki kez çalıştırıldığında ekip hem çıktının korunup korunmadığını hem de gerçek iş yükündeki hız farkını ölçebilir.
Ücretsiz mi, lisansı ne?
DSpark kontrol noktaları 31 Ağustos 2026 itibarıyla Hugging Face üzerinden ücretsiz indirilebiliyor. Model kartında LFM1.0 lisansı gösteriliyor; bu nedenle “her amaçla koşulsuz açık kaynak” varsayımı yapılmamalı, özellikle ticari dağıtım ve yeniden sunum öncesinde lisans metni okunmalı. Dosyayı indirmek ücretsiz olsa da GPU, elektrik, depolama ve sunucu çalıştırma maliyeti kullanıcıya ait.
Ne yapamaz, hangi riskler var?
DSpark hedef modelin bilgi kapsamını, muhakeme yeteneğini veya doğruluk oranını yükseltmiyor. Daha hızlı yanlış cevap da mümkündür. Taslak model küçük de olsa ek bellek tüketir; sınırlı RAM'e sahip cihazda kazanım azalabilir veya model hiç sığmayabilir. Liquid AI'nin testinde 8B-A1B modelinin Apple M4 Max üzerindeki ortalama artışı 1,18 katla daha sınırlı kaldı; mimari ve çalışma zamanı büyük fark yaratıyor.
Yerel çalışma gizlilik açısından avantaj sağlayabilir, ancak varsayılan olarak güvenli olduğu anlamına gelmez. Uygulamanın ağ erişimi, günlük dosyaları, modelin okuduğu klasörler ve kullanıcı girdilerinin nerede saklandığı ayrıca denetlenmeli. Model çıktıları kod, sağlık, hukuk veya finans kararı için insan kontrolü olmadan kullanılmamalı.
DSpark'ın asıl yeniliği yeni bir “beyin” değil, var olan küçük modelleri daha akıcı çalıştırabilecek mühendislik katmanı. Okuyucu bugün resmî dosyalarla kısa bir kıyaslama testi kurabilir; üretime geçmeden önce kendi donanımında ölçüm yapmalıdır. Yerel yapay zekâ araçlarını abartılı hız başlıklarının ötesinde anlamak için Mülk Rehberi Gazetesi'ni takip edin.