Uzun belge, görsel ve sesi aynı aramada buluşturan TPU altyapısı ne işe yarıyor?
Google'ın geliştirici yaklaşımı, uzun bağlamlı çok modlu embedding modellerini vLLM ve GKE üzerinde ölçeklemeyi anlatıyor; bu bir son kullanıcı uygulaması değil, arama altyapısı.
1 okunma4 dk okumaGoogle Developers Blog — Long-context multimodal embedding inference on Cloud TPU
Bir ürün kataloğunda metinle görseli, çağrı kaydıyla destek belgesini aynı anlam uzayında aramak için çok modlu embedding modelleri kullanılıyor. Google, 26 Ağustos 2026 tarihli geliştirici yazısında uzun bağlamlı metin, görsel ve ses embedding çıkarımını Cloud TPU üzerinde vLLM ve GKE ile ölçekleme yaklaşımını anlattı.
Embedding, içeriği sayısal bir vektöre dönüştürür. Benzer anlam taşıyan içerikler vektör uzayında birbirine yaklaşır; böylece anahtar kelime birebir geçmese bile semantik arama, öneri ve sınıflandırma yapılabilir. Sistem cevabı kendisi yazmaz; uygun kayıtları bulup sonraki modele veya uygulamaya verir.
Yenilik nerede?
Google'ın örneği Qwen3 Embedding ailesini, vLLM'in doğal TPU desteğini ve Google Kubernetes Engine üzerinde esnek ölçeklemeyi bir araya getiriyor. Metinde dört binden uzun metin ve on beş binden uzun çok modlu örneklerle yapılan uzun bağlam testleri, StepPool adlı havuzlama yaklaşımı ve hassasiyet-donanım dengesi anlatılıyor.
Bu sayılar bütün veri kümelerinde kalite garantisi değil. Bir katalogdaki kısa ürün adıyla saatlik ses kaydı aynı bölme, model ve değerlendirme yöntemini gerektirmez.
Kimler için?
Bu altyapı son kullanıcıdan çok arama, öneri, RAG ve içerik sınıflandırma sistemi kuran veri ve makine öğrenmesi ekiplerine yönelik. Küçük bir web sitesi birkaç bin kayıt için daha basit yönetilen API veya CPU çözümüyle başlayabilir. TPU ve GKE, yüksek hacim, uzun bağlam ve eşzamanlı istekte anlamlı hâle gelir.
Nasıl başlanır?
Önce kullanım sorusu tanımlanır: “Benzer ürün bul” ile “bu ses kaydının ilgili sözleşme maddesini bul” aynı değildir. Temsil edici en az yüz sorgu için doğru sonuç kümesi elle hazırlanır. Küçük model ve yönetilen hizmetle temel çizgi ölçülür; sonra TPU çözümü aynı veriyle karşılaştırılır.
Örnek arama iş akışı:
Ürün metni ve görselini vektöre dönüştür; kullanıcı sorgusunu aynı modelle göm; ilk yirmi adayı getir; fiyat ve stok gibi kesin alanları normal veritabanı filtresiyle uygula; en üst sonuçları kullanıcıya kaynak kayıtlarıyla göster.
Üç somut kullanım örneği
- Fotoğraf ve açıklamadan benzer ürün arayan e-ticaret kataloğu.
- Toplantı sesi, slayt ve karar belgesini tek proje aramasında buluşturan kurum içi sistem.
- Uzun teknik dokümanlarda benzer arıza örneklerini semantik olarak bulan destek uygulaması.
Maliyet ve erişim
vLLM açık kaynaklıdır; TPU, GKE düğümleri, depolama, ağ ve operasyon yönetimi ücretlidir. Esnek ölçekleme boş zamanda maliyeti azaltabilir, yanlış yapılandırma gereksiz kapasite açabilir. Bilgiler 1 Eylül 2026'da doğrulandı; bölge, TPU türü ve kullanım süresi Google Cloud fiyat hesaplayıcısından ayrı hesaplanmalı.
Kalite nasıl ölçülür?
Arama için ilk beşte doğru sonuç oranı, kaçırılan kayıt, gecikme ve sorgu başı maliyet ölçülmeli. Metin, görsel ve ses ayrı alt kümelerde değerlendirilmeli. Uzun içeriği tek vektöre sıkıştırmak ayrıntıyı kaybettirebilir; bölümleme, havuzlama ve yeniden sıralama karşılaştırılmalıdır.
Sınırlar ve güvenlik
Embedding tersine çevrilmesi zor olsa da anonim sayılmaz; hassas içerikten türetilen vektör sızıntı riski taşıyabilir. Kaynak veri, vektör veritabanı ve günlükler erişim kontrolüyle korunmalı. Silme talebinde yalnız asıl belge değil türetilmiş vektör de kaldırılmalıdır.
Semantik benzerlik doğruluk veya yetki değildir. Kullanıcı erişemediği belgenin vektör sonucunu görmemeli. Kesin fiyat, tarih ve kimlik gibi alanlar yalnız embedding'e bırakılmamalıdır.
Küçükten büyüğe geçiş planı
İlk sürüm tek veri türü ve bin kayıtla kurulabilir. Doğru sonuç kümesi hazırlanır, CPU ya da küçük GPU üzerinde temel gecikme ve kalite ölçülür. Görsel ve ses ancak metin araması yeterince doğrulandıktan sonra eklenir. Her yeni tür, yanlış eşleşme ve erişim kontrolü için ayrı test getirir.
Trafik arttığında kuyruk, toplu işleme ve önbellek eklenir. TPU pilotu mevcut sistemin aynı sorgularıyla karşılaştırılır; yalnız saniyedeki istek değil, doğru ilk beş sonuç ve toplam maliyet ölçülür. GKE otomatik ölçekleme en düşük ve en yüksek düğüm sınırıyla korunmalı; gece boş kapasitenin gerçekten kapandığı doğrulanmalıdır.
Model veya bölümleme yöntemi değişirse bütün vektörlerin yeniden üretilmesi gerekebilir. Eski ve yeni indeks yan yana tutulup kanarya sorgularıyla karşılaştırılmalı. Göç tamamlanmadan eski indeks silinmemeli; belge silme ve erişim değişikliği iki indekse de uygulanmalıdır.
Arama sonucunda kullanıcıya kaynak belge, bölüm ve erişim tarihi gösterilmelidir. Yeniden sıralama modeli sonucu değiştiriyorsa ilk adaylar ile son liste ayrı izlenebilir. Kalite düştüğünde sorun embedding, bölümleme, filtre veya yeniden sıralama katmanından hangisinde bulunuyor ayrıştırılmalıdır. Tek bir genel başarı puanı hata yerini gizler.
Çok modlu sistemde görselin alt metni ve dosya meta verisi ayrı kanıt olarak saklanabilir. Ses kaydında konuşmacı ve zaman damgası vektörden bağımsız kesin alanlarda tutulmalıdır. Böylece semantik sonuç açıklanabilir kalır, kullanıcı özgün kayda dönebilir ve hatalı eşleşme daha kolay incelenir.
Okuyucu bugün küçük bir belge setinde anahtar kelime araması ile semantik aramanın ilk beş sonucunu karşılaştırabilir. Yapay zekâ altyapısını ölçekten önce doğru ölçümle kurmak için Mülk Rehberi Gazetesi'ni takip edin.