Uber CTO’su: Binlerce mühendis yapay zekâ kullanırken token başına maliyet düştü

Uber CTO’su: Binlerce mühendis yapay zekâ kullanırken token başına maliyet düştü

Uber (UBER), yapay zekâda bir sonraki aşamanın daha fazla token tüketmekten ziyade verimliliği artırmaya, maliyetleri düşürmeye ve değeri maksimize etmeye odaklanacağını belirtti.

Uber Token Başına Yapay Zekâ Maliyetini Düşürdü

Uber’in CTO’su Praveen Neppalli, şirketin gelişmiş yapay zekâ araçlarını kullanan çalışan sayısında büyük bir artış yaşanırken, aynı zamanda token başına maliyetin de azaldığını açıkladı. Neppalli, finans direktörlerinin bilanço görüşmesinde yapay zekâ maliyetlerinde ilginç eğilimler gözlemlediklerini belirtti ve “Bu, ‘tokenmaxxing’ olarak adlandırılan dönemin sonuna yaklaştığımızın bir başka göstergesi” dedi.

Yıl başından bu yana Uber’de sınırları zorlayan yapay zekâ araçlarını kullanan kişi sayısının dört katına çıktığını, binlerce mühendisin her gün bu araçlardan faydalandığını aktaran Neppalli, artan kullanıma rağmen token başına maliyetin düştüğünü vurguladı. Bu iyileşmenin, yapay zekâ araçlarına erişimi kısıtlamaktan ziyade mühendislik odaklı optimizasyonlarla sağlandığını ifade etti.

Uber, giriş metni token harcamalarını azaltmak için prompt önbellekleme ve yeniden kullanım sistemlerini geliştirdi, varsayılan model ayarlarını ve bağlam boyutlarını optimize etti ve mühendislere yapay zekâ kullanımı ile maliyetlerini gerçek zamanlı olarak izleme imkânı sundu. Şirket ayrıca açık ağırlıklı yapay zekâ modellerini test ediyor ve kullanım senaryosuna göre farklı modeller seçiyor.

Neppalli, “Bir sonraki aşama, kim daha fazla token harcıyor değil, token’ların ne kadar verimli kullanıldığıyla tanımlanacak” dedi.

Yapay Zekâ Yarışı Hızlanıyor

Girişim sermayedarı Chamath Palihapitiya, yapay zekânın kendi kendini geliştiren döngüye girmiş olabileceğini, bu sayede sistemlerin daha gelişmiş modeller inşa etmeye, atılımları hızlandırmaya ve maliyetleri düşürmeye yardımcı olabileceğini söyledi. Bu eğilimin, yapay zekâ tekilliğine doğru bir adım olabileceğini belirtti.

Anthropic CEO’su Dario Amodei, yakın gelecekte yapay zekânın yazılım mühendisliği görevlerinin çoğunu üstlenebileceğini, bazı mühendislerin şimdiden kod üretimi ve düzenlemesinde yapay zekâdan yararlandığını ifade etti.

Yapay zekâ öncüsü Andrew Ng ise, yapay zekâ araçlarını benimsemeyen mühendislerin geride kalabileceği uyarısında bulundu. Ng, teknik deneyimi yapay zekâ becerileriyle birleştiren geliştiricilerin sektörün evrildiği ortamda daha avantajlı olacağını söyledi.