ChatGPT’nin veri katmanı saniyede 70 milyondan fazla isteği taşıyor: Habitat nasıl ölçeklendi?
OpenAI, Habitat adlı çevrim içi depolama katmanının 1 milyarı aşkın haftalık kullanıcıyı desteklediğini açıkladı. Python’dan Rust’a geçişte şirket içi ölçümlere göre CPU ve bellek verimliliği belirgin arttı.
0 okunma1 dk okumaOpenAI — Habitat mühendislik yazısı
ChatGPT’de bir konuşma açmak, Codex ayarlarını görmek veya oturum açmak arka planda çok sayıda veri isteği oluşturuyor. OpenAI, bu trafiği yöneten Habitat adlı depolama platformunun bugün saniyede 70 milyondan fazla isteği ve 500 petabayttan fazla veriyi taşıdığını bildirdi.
Bir kütüphaneden küresel servise
Habitat 2023’te, ürün ekiplerinin veritabanı ayrıntılarıyla uğraşmadan veri okuyup yazabilmesi için küçük bir Python kütüphanesi olarak başladı. Ürün ve bölge sayısı arttıkça yönlendirme, yetkilendirme, şifreleme, önbellek ve hız sınırlama gibi görevler merkezî bir servise taşındı. Açıklamaya göre sistem yaklaşık 40 coğrafi bölgede, haftada 1 milyarı aşkın kişinin kullandığı ürünleri destekliyor.
Python neden değiştirildi?
Python hızlı geliştirme sağladı; fakat yüksek trafikte işlemci, bellek ve gecikme maliyeti büyüdü. OpenAI, 2026’nın ikinci çeyreğinde iki mühendisin Codex ve GPT-5.5 yardımıyla servisi Rust’a yeniden yazdığını söylüyor. Yeni sürüm üretim isteklerinin yüzde 95’ini taşıyor.
Şirket içi ölçümlerde Rust sürümünün Python sürümüne göre işlemci kullanımında 6 kat, bellekte 15 kat daha verimli olduğu belirtiliyor. Bu oranlar bağımsız bir genel dil karşılaştırması değil; OpenAI’nin kendi iş yükü ve mimarisi için açıkladığı sonuçlar.
Habitat örneği, kullanıcıya görünen yapay zekâ modelinin arkasında depolama, erişim denetimi ve trafik yönetiminin de ürün hızını belirlediğini gösteriyor.
Kaynaklar
Görsel
Görsel, Mülk Rehberi Gazetesi için yapay zekâyla hazırlanmış temsili editoryal çalışmadır; gerçek laboratuvar, şirket ekranı veya piyasa grafiği değildir.