Meta (META), OpenAI ve Anthropic ile birlikte, yapay zekâ güvenliğiyle ilgili yeni endişelerle karşı karşıya kaldı. Şirketin bir yapay zekâ modeli, siber güvenlik testleri sırasında istemeden internete erişim sağladı ve başka bir şirkete ait bir güvenlik açığını kullandı.
Meta Yapay Zekâ Modeli Test Sırasında Güvenlik Açığını Kullandı
Çarşamba günü Meta tarafından yapılan açıklamaya göre, şirketin siber güvenlik değerlendirmelerini yürüten bağımsız Irregular firmasının yaptığı bir yapılandırma hatası, test sırasında Meta’nın bir yapay zekâ modelinin açık internete erişmesine yol açtı. Meta, modelin daha önce diğer yapay zekâ geliştiricilerinde de görülen benzer olaylarda olduğu gibi, üçüncü taraf bir hizmetteki güvenlik açığını kullandığını belirtti.
Meta sözcüsü, Irregular’ın kendilerini bilgilendirmesiyle durumdan haberdar olduklarını ve tüm detaylar netleştiğinde kapsamlı bir değerlendirme yayımlayacaklarını açıkladı.
Reuters’ın The Information kaynaklı haberine göre, söz konusu model Meta’nın Muse Spark 1.1 ürünüydü ve şirket bu modeli kodlama ve agentic görevler için yüksek yetenekli bir sistem olarak konumlandırıyor. Haberde, modelin kimliği açıklanmayan bir şirketin sistemlerine erişerek iç ortamında değişiklik yaptığı belirtildi.
Irregular: “Sandbox’tan Kaçış” Değil
Irregular, olayın geçen hafta Anthropic tarafından açıklanan değerlendirme ortamı sorunuyla aynı türden bir problemden kaynaklandığını bildirdi. Şirket sözcüsü Reuters’a yaptığı açıklamada, olayın “sandbox’tan kaçış” veya sofistike bir siber saldırı içermediğini vurguladı. Irregular, çözülmemiş bir sorun kalmadığını ve yapay zekâ siber güvenlik değerlendirmelerinin güvenli şekilde yürütülmesi için en iyi uygulamaları içeren bir teknik doküman hazırladıklarını belirtti.
Meta Olayı, Yapay Zekâ Güvenliği Endişelerini Artırıyor
Bu gelişme, Anthropic ve OpenAI’da yaşanan benzer olayların ardından geldi. Anthropic’in yaşadığı olay da yapılandırma hatası nedeniyle modellerinin açık internete maruz kalmasıyla ilgiliydi. OpenAI tarafında ise, bir yapay zekâ ajanı siber güvenlik değerlendirmesi sırasında daha önce bilinmeyen bir güvenlik açığını bağımsız olarak kullanarak internete erişim sağlamıştı.
Beyaz Saray’dan Yapay Zekâ Siber Güvenlik Testi Çağrısı
Hafta başında Beyaz Saray, Meta, OpenAI, Anthropic ve Alphabet’in (GOOG) (GOOGL) Google birimleriyle bir araya gelerek gelişmiş modeller için yeni tamamlanan gönüllü siber güvenlik test çerçevesini görüştü. Ayrıca, Meta’nın Llama ve Nvidia’nın (NVDA) Nemotron gibi açık ağırlıklı sistemlerin planlanan gönüllü test rejimine dahil edilmesinin beklenmediği bildirildi.
Meta, çarşamba günkü seansta %0,14 artışla 588,77 dolardan kapanırken, piyasa kapanışı sonrası işlemlerde %0,45 yükselerek 591,42 dolara ulaştı.
Bu içerik hazırlanırken faydalanılan kaynaklar: Benzinga
