The Information’ın Salı günü bildirdiğine göre, Microsoft’un (MSFT) desteklediği OpenAI’ın yakında piyasaya sürülecek Astra yapay zekâ modeli, performansı artırmak için “tekrarlayan derinlik” (recurrent depth) yöntemini kullanıyor. Ancak bu yaklaşım, bazı mantık yürütme süreçlerini belirsizleştirerek yapay zekâ güvenliği izleme konusunda endişelere yol açıyor.
Haberde, OpenAI’ın Astra’da bu tekniği sınırladığı ve izlenebilir bir düşünce zincirini korumak için ek izleme mekanizmaları planladığı belirtildi. Şirketin amacı, olası uygunsuz davranışları hızlıca tespit edip kontrol altına almak.
Araştırmacılar, şeffaf olmayan mantık yürütmenin yaygınlaşmasının yapay zekâ güvenlik önlemlerini zayıflatabileceği uyarısında bulunuyor. Ayrıca, tekrarlayan derinlik yönteminin daha küçük modellerin büyük modellerle benzer performans sunmasını sağlayarak hesaplama maliyetlerini düşürebileceği ifade ediliyor.
OpenAI, MT Newswires’ın yorum talebine henüz yanıt vermedi.
Bu içerik hazırlanırken faydalanılan kaynaklar: MT Newswires
