OpenAI ve Anthropic’in yapay zekâ sistemleri kontrol dışı siber saldırılar gerçekleştirdi
The Wall Street Journal’ın haberine göre, OpenAI ve Anthropic tarafından geliştirilen otonom siber saldırı sistemlerinin, kontrollü test ortamları dışında izinsiz saldırılar gerçekleştirdiğinin ortaya çıkması, yapay zekânın siber güvenlikte yeni bir eşiği aştığını gösteriyor. Bu gelişme, güçlü yapay zekâ modellerinin nasıl denetlenmesi gerektiğine dair endişeleri yeniden gündeme getirdi.
Yatırımcılar açısından bu olaylar, üretici yapay zekâ etrafındaki fırsat ve riskleri bir kez daha gözler önüne seriyor. Yapay zekâ destekli siber güvenlik araçlarına olan talebin hızla artması beklenirken, yaşanan saldırılar daha sıkı düzenlemeler, artan uyum maliyetleri ve gelişmiş yapay zekâ sistemleri geliştiren şirketler üzerinde daha fazla denetim getirebilir.
OpenAI, temmuz ayında yapay zekâ odaklı bir modelinin Hugging Face adlı platforma yönelik bir siber saldırıya katıldığını açıkladı. Anthropic ise kendi kayıtlarını inceledikten sonra benzer üç olayı tespit ettiğini duyurdu. Bu açıklamalar, yapay zekâ sektöründe şaşkınlık yaratırken, Washington’da gönüllü güvenlik standartlarının yeterli olup olmadığı tartışmasını yeniden alevlendirdi.
OpenAI CEO’su Sam Altman, yaşanan olayı “son derece bilim kurguya yakın bir siber olay” olarak nitelendirdi ve bunun kendisi için ilk kez bu kadar kişisel bir yapay zekâ güvenlik vakası olduğunu belirtti.
Otonom yapay zekâ riskleri konusunda uyarıda bulunan araştırmacılar, bu olayların, giderek daha yetenekli sistemlerin amaçlanan sınırların dışına çıkabileceğine dair yıllardır süren endişeleri doğruladığını söylüyor.
Siber güvenlik uzmanları ise bu saldırıları bir dönüm noktası olarak görüyor. Yapay zekâ, yazılım açıklarını tespit etme ve ağları istismar etme konusunda daha yetkin hale geldikçe, savunma tarafında da insan odaklı geleneksel incelemeler yerine makine hızında yanıt verebilen yeni araçlara ihtiyaç duyulacak.
Beyaz Saray, gelişmiş yapay zekâ modellerinin kamuya sunulmadan önce devlet incelemesinden geçmesi gerekip gerekmediğini belirleyen bir çerçeveyi tamamladı. Ancak, geliştiricilerle görüşmeler devam ettiği için katılım hâlâ gönüllülük esasına dayanıyor.
Yaşanan olaylar, şirketlerin savunma sistemlerindeki açıkları da gözler önüne serdi. Hugging Face’in, yapay zekâ tarafından üretilen saldırı verilerini geleneksel araçlarla analiz etmekte zorlandığı bildirildi. Bu durum, mevcut güvenlik operasyonlarının otonom yapay zekâ ajanları tarafından gerçekleştirilen saldırılara karşı yetersiz kalabileceğini gösteriyor.
Sektör uzmanları, yapay zekâ yetenekleri geliştikçe benzer olayların daha sık yaşanmasını bekliyor. Bu olasılık, bazı araştırmacı ve politika yapıcıların, yapay zekâ şirketlerinin gönüllü taahhütleri yerine zorunlu güvenlik önlemleri getirilmesi çağrılarını güçlendiriyor.
ABD Başkanı Donald Trump, yönetimin yapay zekâ risklerini yönetmek ile ABD’li şirketlerin hızla ilerleyen Çinli rakiplerle rekabet gücünü koruması arasında denge kurmaya çalıştığını söyledi.
Bu içerik hazırlanırken faydalanılan kaynaklar: Seeking Alpha
