OpenAI, en gelişmiş sınır modeli Astra’yı pazartesi günü Daybreak adlı siber güvenlik platformunu kullanan müşterilerine sundu. Şirket, önümüzdeki hafta boyunca Astra’yı ücretli planları olan Pro, Plus, Enterprise ve Business kullanıcılarına da sunmayı planlıyor. Ayrıca Astra, API üzerinden de erişilebilir olacak.
OpenAI Başkanı Greg Brockman, perşembe günü gazetecilerle yaptığı görüşmede, yeni modelin yapay genel zekâ (AGI) seviyesine ulaştığını düşündüğünü belirtti. AGI, bir yapay zekâ modelinin çok çeşitli alanlarda insan uzmanlarla eşit ya da daha iyi performans gösterebildiği teorik bir aşama olarak tanımlanıyor. Brockman, “Bunun AGI olup olmadığına okuyucular kendileri karar verebilir. Benim için bu noktaya ulaştık,” dedi.
OpenAI için AGI’ye ulaşmak eskisi kadar önemli bir dönüm noktası değil. Şirketin Microsoft ile yaptığı önceki anlaşmada, AGI’ye ulaşıldığında ortaklığın sona ereceği belirtilmişti. Ancak Brockman, artık böyle bir sözleşmesel tetikleyici olmadığını ve bu kavramın geçerliliğini yitirdiğini ifade etti.
Hafta başında OpenAI, Astra’nın Hugging Face olayıyla bağlantılı olmadığını açıkladı. Ancak Astra, şirketin bugüne kadar geliştirdiği en gelişmiş siber güvenlik yeteneklerine sahip olduğu için, modelin kullanıma sunulması kademeli olarak gerçekleştiriliyor. OpenAI, Astra için daha güçlü güvenlik önlemleri uyguladıklarını, modele zararlı siber talepleri daha güvenilir şekilde reddetmeyi ve güvenlik kısıtlamalarına uymayı öğretmenin yanı sıra, kötüye kullanıma karşı ek korumalar ve izinsiz faaliyetleri durdurabilecek izleme sistemleri geliştirdiklerini belirtti.
OpenAI baş bilim insanı Jakub Pachocki, Astra’nın “opak tekrar” olarak bilinen bir özelliğinden bahsetti. Bu akıl yürütme tekniği, modeli izleyen insanların, modelin belirli bir kararı nasıl veya neden verdiğini tam olarak anlamasını engelleyebiliyor. Pachocki, modelin yetenekleri arttıkça izlenebilirliğin de daha zor hale geldiğini söyledi.
OpenAI CEO’su Sam Altman ise, ilerlemeyle ilgili hem heyecan hem de kaygı yaşadıklarını, bu duygunun başkaları için daha da yoğun olabileceğini belirtti. Altman, dünyanın yapay zekânın nereye gittiğini ve modellerin gerçek dünyada nasıl performans gösterdiğini anlaması gerektiğini, gelecekteki dönüşüm aşamalarını yönetmek için uyumlu yapay zekâya ihtiyaç duyulacağını vurguladı.
Bu içerik hazırlanırken faydalanılan kaynaklar: Seeking Alpha
