Apple (AAPL) ve Nvidia (NVDA), büyük dil modellerinin performansını artırmak için iş birliği yaptıklarını duyurdu.
İş birliği, Apple’ın Recurrent Drafter (ReDrafter) tekniğini Nvidia’nın TensorRT-LLM’si ile entegre ederek metin üretim hızlarını artırmaya odaklanıyor.
Apple’ın bu yılın başlarında açık kaynak haline getirdiği ReDrafter, ışın araması ve dinamik ağaç dikkatini birleştirerek büyük dil modellerinin performansını iyileştiriyor.
Nvidia ile yapılan iş birliği, ReDrafter’ın Nvidia GPU’larında büyük dil modellerini hızlandırmak için tasarlanmış bir araç olan TensorRT-LLM’ye entegre edilmesine yol açtı.
Bu entegrasyon, TensorRT-LLM’nin karmaşık modelleri ve kod çözme yöntemlerini işleme yeteneğini geliştirmek için yeni operatörler eklemeyi içeriyordu.
📍 Karşılaştırma sonuçları, Nvidia GPU’larında açgözlü kod çözme için belirteç üretim hızında 2,7 kat artış gösteriyor ve bu da gecikmeyi ve güç tüketimini önemli ölçüde azaltıyor.
Apple’ın makine öğrenimi araştırmacıları, bu ilerlemenin hesaplama maliyetlerini düşürebileceğini ve üretim uygulamalarında gecikmeyi azaltarak kullanıcı deneyimini iyileştirebileceğini belirtti.
Burada yer alan bilgiler yatırım tavsiyesi içermez. Bilgi için: Midas Sorumluluk Beyanı
Bu içerik hazırlanırken faydalanılan kaynak: Benzinga
