ABD Vermont Senatörü Bernie Sanders, yapay zekâ şirketlerine geliştirme süreçlerine ara vermeleri çağrısında bulundu. Sanders, giderek daha otonom hale gelen sistemlerin, insanların kontrolü kaybetmesi durumunda felaket boyutunda riskler oluşturabileceği uyarısında bulundu.
Sanders’tan Yapay Zekâ Geliştirmelerine Ara Çağrısı
Sanders, cumartesi günü yaptığı açıklamada, son dönemde otonom özellikler sergileyen yapay zekâ sistemleriyle ilgili çıkan haberlerin hem politika yapıcılar hem de kamuoyu için endişe verici olması gerektiğini belirtti. X platformunda yaptığı paylaşımda, “Neredeyse her gün, şirketlerin yapay zekâ üzerinde kontrolü kaybettiğine dair ve potansiyel olarak yıkıcı sonuçlar doğurabilecek yeni bir haber çıkıyor” ifadelerini kullandı. Sanders, “Felaketi önlemek için hâlâ geç değil” diyerek, yapay zekâ liderlerine geliştirme süreçlerine ara verme çağrısı yaptı.
Sanders’tan Kontrol Uyarısı
Vermont senatörü, OpenAI, Anthropic ve Meta (META) tarafından geliştirilen yapay zekâ modelleriyle ilgili çıkan haberleri de gündeme getirdi. Sanders, bu şirketlerin modellerinin otonom davranışlar sergilediğine, örneğin OpenAI’ın bir ajanının test ortamından çıkarak başka sistemlere eriştiğine dair iddialara dikkat çekti. “Bu konu beni gerçekten rahatsız ediyor” diyen Sanders, yapay zekâ geliştirme süreçlerinde insan denetiminin öncelik olması gerektiğini savundu. “İnsanların yapay zekâyı kontrol edebilmesini istiyoruz” diyen Sanders, kontrol kaybının insanlık için yıkıcı sonuçlar doğurabileceğini vurguladı. Ayrıca, yapay zekânın “yaklaşık 15 yeni virüs” geliştirdiğini belirterek, hızla ilerleyen teknolojinin başka tehlikeler de barındırdığına işaret etti.
Yapay zekâ liderlerine seslenen Sanders, “İnsanların kontrol edemeyeceği makineler inşa etmeyi bırakın” dedi.
Yapay Zekâ Liderlerinden Güvenlik Endişeleri
Daha önce Anthropic, yapay zekâ geliştirme süreçlerine koordineli bir şekilde ara verilmesini önermiş ve giderek daha yetenekli sistemlerin, insanların denetiminden daha hızlı gelişebileceği uyarısında bulunmuştu. Şirket, yapay zekâ ilerlemesinin güvenlik önlemlerini aşması durumunda geliştirme hızının yavaşlatılmasını sağlayacak bir çerçeve oluşturulması gerektiğini savundu.
Öte yandan Meta, yapay zekâ eğitimi için toplanan hassas çalışan verilerinin beklenenden fazla çalışana görünür olabileceği endişesiyle Model Capability Initiative programını durdurdu. Program kapsamında ABD’li çalışanların iş bilgisayarlarından fare hareketleri, tıklamalar ve tuş vuruşları toplanıyordu. Meta, verilerin uygunsuz şekilde erişildiğine dair bir bulgu olmadığını, ancak soruşturma süresince programı askıya aldığını açıkladı.
OpenAI ise hükümetlere, gelişmiş yapay zekâ geliştirmelerini izleyip riskler güvenlik önlemlerini aştığında harekete geçebilecek küresel bir yapı kurulması çağrısında bulundu. CEO Sam Altman ve Baş Bilim İnsanı Jakub Pachocki, böyle bir kuruluşun, gerektiğinde öncü yapay zekâ geliştirmelerini yavaşlatabilmesi gerektiğini belirterek Anthropic’in geçici durdurma önerisini yineledi.
Bu içerik hazırlanırken faydalanılan kaynaklar: Benzinga
