New York Times’ın haberine göre, Google (GOOGL) (GOOG), Google Earth’te başlattığı yeni yapay zekâ özelliğini, lansmandan bir gün bile geçmeden devre dışı bıraktı. Kararın nedeni, bu aracın gerçekçi ancak kurgusal uydu görüntüleri üretebildiğinin ortaya çıkması oldu.
Deneysel araç, kullanıcıların herhangi bir konumun havadan görünümünü metin komutlarıyla değiştirmesine olanak tanıyordu. Tarihi alanların yeniden inşası veya gelecekteki şehir manzaralarının hayal edilmesi gibi yaratıcı amaçlarla tasarlanan bu özellik, kısa sürede felaketler, askeri tesisler ve çatışma bölgeleri gibi hassas alanların gerçeğe çok yakın sahte görüntülerini üretmek için kullanıldı.
Bu gelişme, yatırımcılar açısından, yapay zekâ geliştiricilerinin yeni özellikleri hızla piyasaya sürerken kötüye kullanım risklerini yönetmekte karşılaştığı zorlukları bir kez daha gözler önüne seriyor. Özellikle güvenilir platformlarda sunulan üretici yapay zekâ ürünlerinin, itibar ve regülasyon açısından ciddi riskler barındırdığı vurgulanıyor.
Araştırmacılar ve gazeteciler, bu özellikle nükleer santraller, sel basmış şehirler, yanmış ormanlar ve savaş hasarı gibi sahnelerin gerçekçi şekilde oluşturulabildiğini gösterdi. Bu da, sahte uydu görüntülerinin gerçek kanıtlarla karıştırılabileceği endişesini artırdı.
Google, cuma günü yaptığı açıklamada, bazı kullanıcıların yapay zekâ ile üretilen görüntüleri şirket politikalarını ihlal edecek şekilde paylaştığını belirterek özelliği kaldırdığını duyurdu. Şirket, bu yeteneği tekrar sunmadan önce ek güvenlik önlemleri getireceğini açıkladı.
Endişeler yalnızca görüntü kalitesiyle sınırlı değil. Google Earth uzun süredir olayların doğrulanmasında güvenilir bir kaynak olarak görülüyor. Bu nedenle, gerçekçi sahte görüntüler platformun güvenilirliğini tehdit ediyor. Üretilen sahneler, gerçek uydu ve 3D harita verileri üzerine inşa edildiği için, ışık, perspektif ve coğrafya açısından gerçek konumlarla neredeyse birebir örtüşüyor.
Google, oluşturulan görsellere dijital filigranlar eklediğini belirtse de, kullanıcılar basit ekran görüntüleriyle bu işaretlerin çoğunu kaldırabildi.
Bu olay, üretici yapay zekâdaki ilerlemelerin, ikna edici dezenformasyon üretme eşiğini ne kadar düşürdüğünü gösteriyor. Eskiden ileri düzey görüntü düzenleme becerileri gerektiren işlemler, artık kısa bir metin komutuyla yapılabiliyor. Bu da, güvenilir dijital platformların manipülasyon riskini artırıyor.
Alphabet’in iştiraki olan Google, bu özelliğin diğer kullanıcıların gördüğü temel Google Earth haritalarını hiçbir zaman değiştirmediğini ve platformun güvenilirliğini korumanın öncelikleri arasında olduğunu vurguladı.
Bu içerik hazırlanırken faydalanılan kaynaklar: Seeking Alpha
