Meta Platforms (META) Salı günü, çok riskli olarak algıladığı bazı yapay zekâ sistemlerinin geliştirilmesini durdurabileceğini öne sürdü.
Sınır Yapay Zekâ Çerçevesi adı verilen belgede Meta, piyasaya sürülmesi çok riskli olarak değerlendirilen yapay zekâ sistemlerini “yüksek riskli” ve “kritik riskli” olmak üzere iki kategoriye ayırıyor. Bu sistemler potansiyel olarak siber güvenlik, kimyasal ve biyolojik saldırılarda kullanılabilir.
İki kategori arasındaki fark, olası sonucun ciddiyetinde yatıyor. “Kritik riskli” sistemler, önerilen kullanım bağlamında azaltılamayacak bir tehdit oluşturuyor.
Belge ayrıca “en iyi uygulamalarla korunan kurumsal ölçekli bir ortamın otomatik uçtan uca ele geçirilmesi” ve “yüksek etkili biyolojik silahların yayılması” gibi olası saldırı örneklerini de listeliyor. Liste kapsamlı olmasa da teknoloji devinin en acil ve makul olduğuna inandığı senaryoları içeriyor.
Meta’nın risk sınıflandırma yaklaşımı, ampirik testlerden ziyade iç ve dış araştırmacılardan gelen içgörülere dayanıyor. Şirket, mevcut değerlendirme yöntemlerinin kesin nicel risk ölçütleri için gerekli bilimsel hassasiyetten yoksun olduğunu kabul ettiğinden, bu değerlendirmeleri üst düzey karar vericiler gözden geçiriyor.
Sınır Yapay Zekâ Çerçevesi ve yüksek riskli yapay zekâ sistemlerini kısıtlarken kamuya açık AGI’ye olan bağlılık, Meta’nın yapay zekâ ve AR/VR teknolojilerine yönelik agresif yatırımıyla uyumlu. Meta’nın sanal ve artırılmış gerçeklik yatırımının 2025’te 100 milyar doları aşması bekleniyor. Bu tarih, Zuckerberg’in akıllı gözlükler için dönüm noktası olarak işaret ettiği yılla da örtüşüyor.
Bu Sınır Yapay Zekâ Çerçevesi aynı zamanda şirketin yapay zekâ kullanımıyla ilgili potansiyel risklere yönelik temkinli yaklaşımını da vurguluyor. Meta belgede, “Gelişmiş yapay zekânın nasıl geliştirileceği ve kullanılacağı konusunda karar verirken hem faydaları hem de riskleri göz önünde bulundurarak, bu teknolojinin topluma faydasını korurken aynı zamanda uygun bir risk seviyesini de sürdürerek sunmanın mümkün olduğuna inanıyoruz.” ifadelerini kullandı.
Bu yılın başlarında Zuckerberg, DeepSeek’in yeni yaklaşımlarının Meta’nın yapay zekâ geliştirme sürecine etkisini kabul etmişti. DeepSeek’in uygun maliyetli R1 modelinin olası aksamasına rağmen hem Microsoft hem de Meta, yapay zekâ yatırımlarına olan bağlılıklarını teyit etti.
Burada yer alan bilgiler yatırım tavsiyesi içermez. Bilgi için: Midas Sorumluluk Beyanı
Bu içerik hazırlanırken faydalanılan kaynak: Benzinga
Görsel kaynak: Shutterstock
