BNP Paribas, Hot Chips konferansından öne çıkan başlıklarını paylaştı ve agentic yapay zekânın inovasyon için önemli bir katalizör olduğunu, bu nedenle yapay zekâ altyapısının yatırım yapılabilir bir tema olarak öne çıktığını belirtti.
Analist Karl Ackerman liderliğindeki ekip, şu başlıkları öne çıkardı: İlk olarak, OpenAI’ın özel inference çipi Jalapeño’nun performansının Broadcom ve Celestica için olumlu olduğunu belirttiler. İkinci olarak, Alphabet iştiraki Google’ın her yıl nesil başına iki çip taahhüdünde bulunduğunu; üçüncü olarak, Advanced Micro Devices’ın (AMD) yeni MI500 yapay zekâ çipinde optik teknolojiyi ölçekli olarak kullanmayı planladığını ifade ettiler. Dördüncü olarak analistler, Nvidia’nın AI ağ mimarisi Scale In’in, şirketin hızlandırılmış altyapı çipi BlueField-4 DPU ile desteklendiğini; beşinci olarak, Meta’nın ölçeklenme için Broadcom’un Tomahawk Ultra’sını tercih ettiğini; altıncı olarak, Samsung Electronics’in yüksek bant genişlikli bellek (HBM) tabanındaki inovasyonları ve SK Hynix’in, Intel’in gelişmiş paketleme teknolojisi Embedded Multi-die Interconnect Bridge (EMIB) ile HBM kullanımına açık olduğunu not ettiler. Son olarak analistler, AMD’nin Helios sunucularında, Nvidia’nın Vera Rubin’ine kıyasla daha yüksek ağ arayüz kartı (NIC) bağlantı oranlarının optik alıcı-verici ekosistemi için olumlu olduğunu söylediler.
Analistler, inference uygulamalarının bellek inovasyonunu hızlandırdığını vurguladı. Mevcut bellek hiyerarşisinin eğitim iş yüklerine göre şekillendiğini, ancak inference’ın doğası gereği belleğe bağımlı olduğunu ve KV cache talebinin, bağlam uzunluğu ve kullanıcı sayısı arttıkça büyüdüğünü belirttiler. Bu nedenle SRAM, 3D-DRAM, dikey HBM ve HBF gibi teknolojilerin, bellek bant genişliği, gecikme ve güç tüketimi ihtiyaçlarını işlemciye daha yakın bir şekilde karşılamayı hedeflediği ifade edildi.
Ayrıca, Google TPU, Meta MTIA, Microsoft Maia, OpenAI Jalapeño, Cerebras WSE ve Groq LPX gibi özel ve inference odaklı hızlandırıcıların sayısının arttığına dikkat çekildi. Analistler, yeni XPU’ların yaygınlaşmasını iş yükü çeşitliliğine ve altyapı ekonomisinin cazibesine bağlıyor.
Ackerman ve ekibi, agentic CPU’ların da öne çıktığını belirtti. İş yüklerinin çok adımlı süreçlere kaymasıyla birlikte, sistem darboğazının gerçek zamanlı orkestrasyon ve veri işleme olduğu ifade edildi. Her CPU’nun farklı bir yaklaşım benimsediği; Nvidia Vera’nın tek çekirdek performansına odaklandığı, AMD EPYC Venice’in çeşitli iş yüklerine portföy yaklaşımı sunduğu ve Intel Diamond Rapids’in Fan-out Fabric tasarımıyla ayrıştığı aktarıldı.
Bu içerik hazırlanırken faydalanılan kaynaklar: Seeking Alpha
