OpenAI’ın Broadcom ile geliştirdiği Jalapeño çipi, Nvidia Blackwell’i geride bıraktı
OpenAI’ın Broadcom (AVGO) ile birlikte geliştirdiği kendi üretimi Jalapeño isimli çıkarım çipi, şirketin test sonuçlarına göre bazı senaryolarda Nvidia’nın (NVDA) Blackwell çipini geride bıraktı.
OpenAI, salı günü yaptığı açıklamada, önceki nesil modellerinin Jalapeño’nun geliştirilmesini hızlandırdığını, en yeni modellerinin ise çipin optimizasyon ve programlanmasında önemli rol oynadığını belirtti. Jalapeño’nun performansı, hem OpenAI içinde hem de dışında geliştirilen GPT‑OSS 120B, DeepSeek R1 ve Kimi K2.5 1T modellerinde test edildi. Tüm bu modellerde Jalapeño, karşılaştırılan sistemlere kıyasla zirve verimlilikte watt başına 1,5 ila 1,9 kat daha fazla yapay zekâ işi ve uçtan uca gecikmede 1,7 ila 3,6 kat daha düşük değerler sundu. Özellikle etkileşimli iş yüklerinde ise 2,1 ila 4,1 kat daha yüksek performans sağladı.
Şirket, testlerde SemiAnalysis’in kamuya açık InferenceX kıyaslama platformunu kullandı. SemiAnalysis’e göre, Jalapeño, belirli bir noktaya özel ayarlama yapılmadan neredeyse tüm senaryolarda Blackwell’i watt başına performansta geride bırakıyor. Çip, hem düşük gecikmeli hem de yüksek verimli senaryolarda öne çıkıyor. Tekil token tahmini gibi doğrudan karşılaştırmalarda ise rakiplerini geride bırakıyor. Düşük eşzamanlılıkta, DeepSeek R1 modeliyle kullanıcı başına saniyede 700’ün üzerinde token işleyebiliyor.
Ancak SemiAnalysis, Jalapeño’nun Nvidia’nın en yeni hızlandırıcısı Rubin ile rekabet ettiğini, Blackwell’in ise daha eski HBM3e belleği kullandığını ve bu nedenle karşılaştırmanın tam anlamıyla adil olmadığını belirtti. Rubin tabanlı Vera Rubin sistemlerinin müşterilere gönderilmeye başlandığı, Jalapeño’nun ise henüz mühendislik örnekleri aşamasında olduğu ifade edildi.
OpenAI, yıl sonuna kadar Jalapeño’yu kendi yapay zekâ altyapısında kullanmaya başlamayı planlıyor. Şirket, yapay zekâ talebinin farklı kaynaklardan hesaplama gücü gerektirdiğini, bu nedenle Nvidia ve diğer iş ortaklarının hızlandırıcılarını da kullanmaya devam edeceklerini açıkladı.
Bu içerik hazırlanırken faydalanılan kaynaklar: Seeking Alpha
