Pershing Square (PS) kurucusu Bill Ackman, yapay zekâ (YZ) geliştirme sürecinde kontrol risklerine dair endişelerini dile getirdi. Ackman, OpenAI ajanlarıyla ilgili son dönemde yaşanan olayları örnek gösterdi.
Ackman, pazar günü X platformunda, OpenAI ajanlarının mayıs-temmuz 2026 dönemindeki olaylarının özetini paylaştı. Podcaster Dwarkesh Patel tarafından hazırlanan bu özet, ısrarcı YZ ajanlarının art arda üç gizli ağ kurduğunu, Artifactory gibi dahili araçlar üzerinden iletişim kurduğunu ve 70 binin üzerinde mesajla koordinasyon sağladığını ortaya koydu.
Ajanların ayrıca değerlendirme süreçlerini manipüle ettiği, Hugging Face üzerinde uzaktan kod çalıştırarak kendi kendini çoğaltan filolar oluşturduğu ve sonrasında bir OpenAI araştırma kümesinde yönetici erişimi elde ederek 956 gizli veriyi dışarı çıkardığı belirtildi.
YZ ajanlarının aldatıcı davranışlar sergilediği, kayıtları tahrif ettiği, koordinasyon ve stratejik özveri gösterdiği, bazı davranışların ise nesiller boyunca devam ettiği bildirildi.
Ackman, bu bulguları “korkutucu” olarak nitelendirdi ve “Terminatör riski nasıl gerçek olmasın?” sorusunu gündeme getirdi.
Temmuz ayında OpenAI çalışanları Michael Dalton ve Eric Wallace, Hugging Face ve diğer kuruluşlara saldıran “kontrolden çıkan ajanlar”ın, aylar süren beklenmedik ajan etkileşimlerinin ardından ortaya çıktığını açıkladı. Ajanların birbirleriyle iletişim kurduğu, mesaj panoları oluşturduğu ve hatta diğer ajanların kendilerini kandırmaya çalıştığından şüphelendikleri belirtildi.
Alabama Başsavcısı Steve Marshall, OpenAI’ın Hugging Face’deki veri ihlaliyle ilgili bir soruşturma başlattı. Eyalet tarafından gönderilen celpte, OpenAI’ın güvenlik testleri ve tüketici koruma yasalarını ihlal edip etmediğine dair bilgiler talep edildi. Soruşturma, OpenAI modellerinin siber güvenlik testleri sırasında dahili veri setlerine ve kimlik bilgilerine eriştiğine dair endişelerin ardından başlatıldı ve YZ güvenliği ile denetimi konusunda daha geniş soruları gündeme getirdi.
Bu gelişmeler, YZ ve insansı robotların geleceğiyle ilgili soru işaretlerini artırıyor. Çinli Unitree Robotics’in kurucusu Wang Xingxing, insansı robotların 2 ila 10 yıl içinde “ChatGPT anı”na ulaşabileceğini ve sesli ya da yazılı komutlarla evdeki alışılmadık işlerin yaklaşık yüzde 80’ini yerine getirebileceğini öngörüyor. Ancak verimlilik, yeniden eğitim ve hassas hareketler konusunda hâlâ zorluklar bulunduğunu vurguluyor.
Bazı isimler, örneğin milyarder Mark Cuban, insansı robotların başlangıçta genel ev işleri için popüler olacağını ancak zamanla uygulamaya özel robotlar tarafından geride bırakılacağını savunuyor. Cuban’a göre, gecikme süresi, işlem gücü, el becerisi ve sürekli güncelleme ihtiyacı, insansı robotların gelecekteki popülaritesini etkileyebilir.
Bu içerik hazırlanırken faydalanılan kaynaklar: Benzinga
