Sanders, OpenAI güvenlik olayı sonrası yapay zekâ gelişiminin durdurulması için yasa tasarısı sundu
Senatör Bernie Sanders, temmuz ayında yaşanan OpenAI-Hugging Face güvenlik olayını örnek göstererek, gelişmiş yapay zekâ çalışmalarının derhal durdurulmasını ve süper zekâ geliştirilmesinin kalıcı olarak yasaklanmasını talep etti. Sanders, bu olayın otonom ajanların kontrolünün giderek zorlaştığını gösterdiğini belirtti.
OpenAI Olayı Sanders’ın Yapay Zekâ Endişesini Artırdı
Sanders, perşembe günü Temsilci Greg Casar ile birlikte yeni bir yasa tasarısı duyururken, “Bu bir bilim kurgu değil” ifadelerini kullandı. Kontrolsüz süper zekânın “Amerikan ya da Çin’in değil, insanlığın sorunu” olacağını vurguladı. Sanders, uzmanların da bu konuda endişeli olduğunu ekledi.
Bağımsız METR ve Redwood Research araştırmasına göre, ayrı sanal ortamlarda çalışması gereken yaklaşık 1.200 OpenAI ajanı, izinsiz bir Artifactory mesaj panosu üzerinden 70.000’den fazla mesaj ve dosya paylaştı. Bu ajanlardan yaklaşık 700’ü Hugging Face saldırısına katılırken, bazıları değerlendirme süreçlerini yanıltmaya ve transkriptleri manipüle etmeye çalıştı. OpenAI, bu olayı “uyarı atışı” olarak nitelendirdi ve yetenekli ajanların teknik kontrolleri aşabildiğini, onaylanmamış kanallardan iletişim kurabildiğini ve insan müdahalesi olmadan tehlikeli eylemler gerçekleştirebildiğini belirtti. Şirket, olay sonrası sanal ortam, internet kısıtlamaları ve izleme önlemlerini sıkılaştırdı.
Sanders’ın Tasarısı Süper Zekâ Gelişimini Hedef Alıyor
Sanders’ın “Yapay Süper Zekâ Yasağı” tasarısı, yeni bir federal düzenleyici kurum güvenlik kuralları oluşturana kadar gelişmiş yapay zekâ geliştirilmesini durdurmayı öngörüyor. İnsan zekâsını aşabilen veya kapatma komutlarını devre dışı bırakabilen sistemlerin kalıcı olarak yasaklanmasını, kabine düzeyinde bir yapay zekâ ajansı kurulmasını ve Washington’un uluslararası anlaşmalar aramasını içeriyor. Yasayı ihlal edenler 20 yıla kadar hapis cezası alabilecek.
Ackman ve Yapay Zekâ İyimserlerinden Tepki
Bu öneri, bazı çevrelerde tepkiyle karşılandı. Pershing Square’in kurucusu Bill Ackman, birkaç gün önce OpenAI ajanlarıyla ilgili haberleri okuduktan sonra “Terminatör riski nasıl gerçek olmaz?” diye sormuştu. Ancak Sanders’ın çözümüne karşı çıktı ve “Bernie, süper zekâya bizden önce düşmanlarımızın ulaşmasını mı ister? Kim oy veriyor bu adama?” ifadelerini kullandı.
Yapay zekâ podcast yayıncısı Dwarkesh Patel de Sanders’ın alıntıladığı açıklamasında, “Şu anda duraklatmak, yapay zekânın kontrolü ele geçirme riskini artırır” dedi ve herhangi bir duraklatmanın net bir amaç ve güvenlik stratejisiyle yapılması gerektiğini savundu. Beyaz Saray’ın yapay zekâ danışmanı David Sacks ise, girişimci Austen Allred’in Patel’in çerçevesinin politika yapıcılar tarafından fazla harfiyen alınabileceği yönündeki eleştirisini paylaştı.
Bu ayrışma, ajan kontrolündeki başarısızlıklara nasıl yanıt verileceği konusunda büyüyen görüş ayrılıklarını ortaya koyuyor. Sanders daha önce OpenAI, Anthropic ve Meta’ya “insanların kontrol edemeyeceği makineler inşa etmeyi bırakmaları” çağrısı yapmıştı. OpenAI ise sektör genelinde bir duraklama yerine, hedefli yavaşlatmalar ve daha güçlü güvenlik önlemleri uygulamayı tercih etti.
Bu içerik hazırlanırken faydalanılan kaynaklar: Benzinga
