IBM (IBM) ve Groq, şirketlerin ajansal yapay zekâ kullanımını hızlandırmak için bir ortaklık duyurdu.
Anlaşma, IBM’in watsonx Orchestrate’ini Groq’un yüksek performanslı çıkarım platformu GroqCloud ile entegre ederek, düzenlenmiş ve ticari sektörlerde daha hızlı ve maliyet açısından daha verimli yapay zekâ yetenekleri sunmayı amaçlıyor.
İş birliğinin bir parçası olarak IBM ve Groq, Groq’un Dil İşleme Birimi (LPU) mimarisini watsonx Orchestrate ile birleştirirken, Red Hat’in açık kaynaklı vLLM teknolojisini IBM Granite modellerini destekleyecek şekilde geliştirecek.
Entegrasyon, müşterilere yapay zekâ ajanlarını gerçek dünya uygulamalarında konuşlandırmak için ölçeklenebilir bir altyapı sağlamayı hedefliyor.
Birçok şirket, maliyet ve gecikme sorunları nedeniyle yapay zekâ pilot projelerinden üretime geçmekte zorlanıyor. Özel LPU’su ile desteklenen GroqCloud, geleneksel GPU sistemlerinden beş kattan daha hızlı çıkarım sağlıyor ve iş yükleri küresel olarak ölçeklendikçe bile düşük gecikmeyi koruyor.
Sistem, IBM’in yapay zekâ ajanlarının büyük miktarda veriyi işleyebildiği ve doğru, gerçek zamanlı yanıtlar sağlayabildiği sağlık gibi karmaşık iş akışlarını destekliyor.
IBM müşterileri ayrıca Groq destekli sistemi insan kaynakları, perakende ve finansal hizmetlerde süreçleri otomatikleştirmek ve verimliliği artırmak için kullanıyor. Şirketler, Groq’un çıkarım performansını IBM’in orkestrasyon araçlarıyla birleştirerek, kurumsal müşteriler için yapay zekâ konuşlandırmasını daha hızlı ve güvenilir hale getirmeyi amaçlıyor.
Bu duyuru, IBM’in Oracle platformunda üç yeni yapay zekâ ajanı sunma hamlesi ve ekosistemlerde otomasyonu ve birlikte çalışabilirliği artırmaya yönelik daha geniş çabasını yansıtıyor. WatsonX Orchestrate aracılığıyla GroqCloud’a erişim hemen kullanılabilir durumda ve küresel işletmeler için güvenli ve uyumlu yapay zekâ konuşlandırmasını destekliyor.
Bu içerik hazırlanırken faydalanılan kaynaklar: Benzinga
