ABD hükümeti, Anthropic’in Fable 5 ve Mythos 5 modellerinin ihracatını durdurmasına yol açan “güvenlik sorununu” şirketin gidermesi halinde ihracat kısıtlamalarını kaldırmayı planlıyor.
Başkan’ın Bilim ve Teknoloji Danışmanları Konseyi eş başkanı David Sacks, X platformunda yaptığı paylaşımda, “Yönetimin umudu, Anthropic’in güvenlik sorununu çözmesi, ihracat kısıtlamasının kaldırılması ve Fable’ın tekrar genel kullanıma açılması yönünde. Yönetim, tüm bunların mümkün olan en kısa sürede gerçekleşmesini istiyor.” ifadelerini kullandı.
San Francisco merkezli yapay zekâ şirketi Anthropic, daha önce Mythos modelinin siber saldırı potansiyeline dair uyarıda bulunmuş ve bu modeli geniş çaplı kullanıma sunmamıştı. Şirket, hafta başında ise Fable adını verdiği ve siber güvenlik önlemleriyle donattığını belirttiği bir kamuya açık sürüm yayımladı.
Anthropic’in Cuma günü yaptığı açıklamaya göre, ABD hükümeti ulusal güvenlik endişelerini gerekçe göstererek, Fable 5 ve Mythos 5 modellerine ABD içinde veya dışında bulunan tüm yabancı uyrukluların erişiminin askıya alınmasını talep etti. Yetkililer ayrıca, modelin siber güvenlik açıklarını tespit etmek için kullanılmasını engelleyen bir korumanın “jailbreak” yöntemiyle aşılabildiğini tespit ettiklerini bildirdi.
Anthropic, “Sınırlı bir jailbreak ihtimalinin, yüz milyonlarca kişiye sunulan ticari bir modelin geri çağrılması için gerekçe olmaması gerektiğini düşünüyoruz. Bu standart sektör genelinde uygulanırsa, tüm öncü model sağlayıcılarında yeni model dağıtımlarının fiilen durmasına yol açar.” açıklamasında bulundu.
Bu adım, Washington’ın ticari yapay zekâya bugüne kadarki en güçlü müdahalelerinden biri olarak öne çıkıyor. Yaşanan anlaşmazlık, ABD’nin öncü yapay zekâ modellerinde güvenlik standartlarını ne kadar sıkı uygulayacağının da bir testi haline geldi.
Anthropic ve Güvenli Yapay Zekâ Tartışması
Anthropic, uyumluluğu sağlamak amacıyla her iki sisteme de tüm müşteriler için erişimi kapattı. Ancak yönetim, Anthropic’in güvenlik taleplerine “şaşırtıcı” bir isteksizlik gösterdiğini savundu.
Sacks, “Anthropic’in makul bir güvenlik talebine (örneğin jailbreak sorununu çözmek) yanaşmaması oldukça şaşırtıcı oldu. Şirketin bu yaklaşımı, güvenli yapay zekâ araştırma topluluğu olarak benimsediği marka ve değerlerle çelişiyor.” dedi.
The Wall Street Journal’ın aktardığına göre, Amazon (AMZN) araştırmacıları tarafından yapılan jailbreak çalışmaları, Anthropic’in modelinde güvenlik açıkları olduğunu ortaya koydu. Konuya yakın kaynaklara göre, ABD hükümeti ve Amazon, kısıtlamalar getirilmeden önce bu açık hakkında iletişim halindeydi.
Amazon CEO’sundan Güvenlik Uyarısı
Reuters’ın aktardığına göre, Amazon CEO’su Andy Jassy, bu hafta Anthropic’in en gelişmiş yapay zekâ modellerindeki güvenlik riskleriyle ilgili endişelerini üst düzey Trump yönetimi yetkililerine ileten teknoloji liderleri arasında yer aldı.
Sacks, “Anthropic ve ABD hükümetinin güvenilir bir ortağı, Fable’ın koruma önlemlerini aşan bir jailbreak tespit etti.” dedi ve Anthropic’in bu jailbreak’in ciddi olmadığı yönündeki açıklamasını da eleştirdi.
“Bu, güvenilir ortağın ve ABD hükümetinin görüşüyle örtüşmüyor. Ayrıca bu tür küçümseyici ifadeler, Anthropic’in ‘yapay zekâ güvenliği’ markasıyla da uyumlu değil.” ifadelerini kullandı.
Reuters’ın haberine göre, gelişmiş yapay zekâ modellerinde ihracat kısıtlamalarını destekleyen bazı uzmanlar, Trump yönetiminin bu adımını şaşırtıcı buldu. Alınan karar, ABD’nin müttefiklerini ve rakiplerini de etkiliyor.
California Üniversitesi Küresel Çatışma ve İş Birliği Enstitüsü kıdemli araştırmacısı Jimmy Goodrich, Reuters’a yaptığı açıklamada, yönetimin kararının “iyi düşünülmüş” olmadığını söyledi. Goodrich, yasağın Anthropic’in Kanadalı ve Britanyalı çalışanlarının dahi araştırma ve geliştirme yapmasını engellediğini belirtti.
Bu içerik hazırlanırken faydalanılan kaynaklar: Benzinga
