New York Times’ın pazar günkü haberine göre, İngiltere’nin devlet destekli AI Security Institute’u, hükümetler hızla gelişen teknolojiye ayak uydurmaya çalışırken yapay zekâ sistemlerinin tehlikeli davranışlara karşı dayanıklılığını test eden dünyanın en etkili girişimlerinden biri olarak öne çıkıyor. Londra merkezli bu kurumda eski istihbarat yetkilileri, akademisyenler ve büyük teknoloji şirketlerinden araştırmacılar görev alıyor.
Enstitü, siber saldırılar, biyolojik tehditler ve insan davranışlarının manipülasyonu gibi zayıf noktaları tespit etmek için önde gelen yapay zekâ modellerini inceliyor. Araştırmacılar, OpenAI, Google ve Anthropic gibi şirketlerin araçlarında güvenlik önlemlerini aşmayı başardı. Son testlerde, otomatik komutlarla bir sohbet robotunun şarbon üretimiyle ilgili talimatlar vermesi sağlandı. Bir başka denemede ise enstitünün “kırmızı takımı”, saatler süren testlerin ardından büyük bir yapay zekâ sisteminden siber saldırı rehberi elde etti. Bu bulgular, açıkların kapatılması için ilgili şirketlerle paylaşılıyor.
Enstitü, 2023 yılında dönemin Başbakanı Rishi Sunak’ın OpenAI’dan Sam Altman, Anthropic’ten Dario Amodei ve Google DeepMind’dan Demis Hassabis gibi üst düzey isimlerle yaptığı görüşmelerin ardından kuruldu. İngiltere, bu girişime yaklaşık 360 milyon sterlin (480 milyon dolar) ayırarak, ABD’deki benzer devlet projelerinden çok daha büyük bir bütçe sağladı.
Yatırımcılar için, devletlerin yapay zekâ güvenliği testlerine ağırlık vermesi, özellikle siber güvenlik, savunma ve kritik altyapı alanlarında daha sıkı düzenlemelerin gündeme gelme olasılığını artırıyor. Artan regülasyon, yapay zekâ geliştiricileri için uyum maliyetlerini yükseltebilir; ancak aynı zamanda pazara giriş engellerini sağlamlaştırarak OpenAI’ın ortakları, Alphabet ve Anthropic destekli yatırımcılar gibi güçlü sermayeye sahip şirketlerin hakimiyetini de güçlendirebilir. Bu gelişmeler, küresel yapay zekâ güvenlik standartlarını kimin belirleyeceği konusunda jeopolitik rekabetin de arttığına işaret ediyor.
Enstitünün çalışmaları, yurt dışında da politika yapıcıları etkilemeye başladı. ABD’de Trump yönetiminin, İngiltere’nin çerçevesine benzeyen yapay zekâ denetim kuralları üzerinde durduğu belirtiliyor. Ayrıca Avustralya, Kanada, Fransa, Hindistan, Japonya ve Singapur gibi ülkeler de benzer programlar başlattı.
Enstitüdeki araştırmacılar, kimyasal ve biyolojik silah geliştirme, siber saldırılar ve siyasi görüşleri etkileyebilen ya da kullanıcıları yanıltabilen sistemler gibi en ciddi yapay zekâ risklerine odaklanıyor. Son çalışmalardan biri, bazı sohbet robotlarının siyasi görüşleri etkileyebildiğini ortaya koyarken, bir diğeri ise yapay zekâ sistemlerinin karmaşık kurumsal ağ saldırılarını insan hacker’lardan çok daha hızlı gerçekleştirebildiğini gösterdi.
Buna rağmen, enstitünün doğrudan düzenleyici yetkisi bulunmuyor ve önde gelen modellerin nasıl eğitildiğine dair tam bir şeffaflığa sahip değil. Ayrıca, kamu sektöründeki maaşların özel sektöre kıyasla düşük olması nedeniyle yetenekli çalışan bulmakta zorluk yaşanıyor.
Yine de destekçiler, New York Times’ın haberine göre, hükümetlerin büyük teknoloji şirketlerinin kendi kendini denetlemesine bel bağlamak yerine, bağımsız teknik uzmanlığa sahip bu tür kurumların önemli bir boşluğu doldurduğunu savunuyor.
Bu içerik hazırlanırken faydalanılan kaynaklar: Seeking Alpha
