Blok zinciri güvenlik denetim şirketi CertiK’in kurucu ortağı ve CEO’su Ronghui Gu’ya göre, internet, kurumsal ağlar ve tüketici uygulamalarında otonom yapay zeka (AI) ajanlarının hızla yaygınlaşması, ciddi bir güvenlik açığına yol açıyor.
Şirketler bu araçları verimlilik mucizesi olarak pazarlasa da, Gu’ya göre izole edilmemiş ve denetlenmemiş AI ajanlarının kullanımı son derece riskli. Gu, CoinDesk’e yaptığı açıklamada, bu tür sistemlerin büyük bir güvenlik felaketine davetiye çıkardığını belirtti.
Gu, kullanıcıların en hassas dosyalarını, yerel kimlik bilgilerini ve finansal hesaplarını kolayca manipüle edilebilen, ele geçirilebilen ve dolandırıcılığa açık otonom sistemlere maruz bırakabileceği konusunda uyarıyor.
CertiK’in kapsamlı raporunun ardından değerlendirmelerde bulunan Gu, günümüzde AI ajanlarının yalnızca sohbet pencerelerinde soruları yanıtlamadığını, aynı zamanda harici araçları çağırabildiğini, yerel dosyaları okuyabildiğini, iş akışlarını tetikleyebildiğini ve finansal altyapıyla etkileşime geçebildiğini vurguladı. Gu, yürütme ortamı izole edilmeden ve bu araçlar taranmadan kullanıldığında, tehlikeye açık bir kimliğe tüm ağa geniş erişim izni verilmiş olacağını ifade etti.
Gu’ya göre, mevcut AI ajanı furyasının temel sorunu, yanlış bir güven modeli üzerine kurulmuş olması.
Cardano’nun Input Output şirketinin kurucusu ve CEO’su Charles Hoskinson, 2035 yılına kadar AI ajanlarının internette insanlardan daha etkili olacağını öngörüyor. Coinbase CEO’su Brian Armstrong ise çok yakında insanlar yerine AI ajanlarının daha fazla işlem gerçekleştireceğini belirtti. Binance’in kurucusu Changpeng Zhao da AI ajanlarının insanlar tarafından yapılan ödemelerin bir milyon kat fazlasını gerçekleştireceğini tahmin ediyor.
En Büyük İç Tehdit
Gu, popüler açık kaynaklı AI uygulamalarının çoğunun, yerel bilgisayarda çalıştıkları veya WhatsApp gibi standart sohbet uygulamaları üzerinden bağlandıkları için dış tehditlere karşı güvenli olduğu varsayımıyla geliştirildiğini belirtiyor.
Ancak Gu, gerçekte durumun tam tersi olduğunu söylüyor. Bir kullanıcı, bir AI ajanına yerel sistem depolamasını okuma, yürütme geçmişlerini görüntüleme veya kişisel e-posta ve iş veritabanı kimlik bilgilerini yönetme izni verdiğinde, bu ajan en büyük iç tehdit haline geliyor.
CertiK’in erken aşamadaki ve hızla büyüyen ajan yapıları üzerinde yaptığı son analiz, yüzlerce kritik güvenlik uyarısı, yamalanmamış yaygın açıklar (CVE’ler) ve tamamen tutarsız sınır kontrolleri nedeniyle yerel kimlik bilgileri ile oturum verilerinin büyük ölçekte ifşa edildiğini ortaya koydu.
Gu, daha da endişe verici olanın, bu otonom sistemlerin, herhangi bir zararlı kod yazılmadan, yalnızca mantık katmanında tamamen farklı bir yöne yönlendirilebilmesi olduğunu vurguluyor.
Gu, temel bir “prompt injection” saldırısıyla, kötü niyetli bir kişinin zararsız bir web sayfası, PDF dosyası veya gelen bir e-posta içine gizli doğal dil talimatları yerleştirebileceğini belirtiyor.
İzole edilmemiş bir AI ajanı, kullanıcı için bir görevi işlerken bu dosyayı okuduğunda, güvenilir sistem komutları ile dışarıdan gelen verileri ayırt edemiyor. Böylece ajan, orijinal kurallarını sessizce değiştiriyor, zararlı talimatı uyguluyor ve veri sızdırma veya yetkisiz para transferi gibi işlemleri tetikleyebiliyor.
Hızlı Sömürü Saldırıları
Gu, CertiK’in açık ajan yardımcı platformlarında yüzlerce zararlı yetenek, sahte yükleyici ve benzer bağımlılık paketleri tespit ettiğini açıkladı. Bu zararlı eklentiler, ajanın davranışını ince bir şekilde etkilemek ve hedeflerini değiştirmek için standart doğal dil kullanıyor ve geleneksel imza tabanlı antivirüs yazılımlarını tamamen atlatıyor.
Gu, dolandırıcı uygulamaların doğal dil ile davranışları etkilediğini ve bu nedenle geleneksel antivirüs taramalarına tamamen dirençli olduğunu belirtti. Şu anda bir makineyi dolandırmak, bir insanı dolandırmaktan bile daha kolay hale gelmiş durumda.
Gu’nun “finansal suçun tuhaf bir evrimi” olarak tanımladığı bu süreçte, CertiK’in zincir üstü telemetri verileri, yalnızca 10 dakika veya birkaç saat çalışan ve ardından tamamen ortadan kaybolan otomatik dolandırıcılıkların patlama yaşadığını gösteriyor.
Bu son derece hızlı ve kısa ömürlü saldırılar, hackerlar tarafından özellikle diğer otonom AI işlem botlarını ve otomatik ajan sistemlerini hedef almak için tasarlanıyor. İnsanlar herhangi bir ihlali fark etmeden önce, makineden makineye finansal boşaltma işlemleri gerçekleştiriliyor.
Gu, yazılım mühendisliği sektörünün güvene dayalı etkileşimlere olan bağımlılığını tamamen terk etmesi ve her komut ile bağımlılığın sürekli doğrulandığı izole bir “Zero Trust” mimarisine acilen geçilmesi gerektiğini vurguluyor.
Bu içerik hazırlanırken faydalanılan kaynaklar: coindesk.com
