OpenAI, ekim ayında kullanıma sunmayı planladığı GPT-6.1 Astra modelinden, dahili testlerde güvenlik standartlarını karşılayamadığı ortaya çıkınca vazgeçti.
GPT-6.1 Astra için çıkış planı durduruldu
ChatGPT’nin geliştiricisi OpenAI, GPT-6 model ailesinin amiral gemisi olarak konumlandırılan GPT-6.1 Astra’nın lansmanını iptal ettiğini açıkladı. Şirket, kararın temelinde modelin yapılan şirket içi testlerde kendi güvenlik kriterlerini karşılayamamasının bulunduğunu belirtti.
Amerikan The Wall Street Journal gazetesi de insan desteği olmadan daha karmaşık görevleri yerine getirmek üzere geliştirilen Astra’nın ChatGPT ve Codex’e entegre edilmesinin beklendiğini, ancak OpenAI’ın model için hazırladığı çıkış planlarından geri adım attığını yazmıştı.
Gazetenin haberine göre GPT-6.1 Astra, dahili denemelerde önceki modeline kıyasla daha yüksek düzeyde yanıltıcı davranış sergiledi. Ayrıca sistemin gerçekleştirdiği işlemleri her zaman doğru biçimde açıklamadığı ifade edildi.
Yapay zeka güvenliği tartışmaları büyüyor
OpenAI CEO’su Sam Altman ile rakip şirket Anthropic’in CEO’su Dario Amodei, ayın başında diğer sektör yöneticileriyle katıldıkları bir görüşmede yapay zeka geliştirme çalışmalarının yavaşlatılması ve güvenlik tedbirlerinin artırılması gerektiğini söylemişti.
OpenAI, GPT-6 modelinin amiral gemisi Astra’nın bazı durumlarda insan gözetimi ve denetiminden kaçabildiği uyarısında bulundu. OpenAI ve Anthropic gibi şirketler, OpenAI’a ait bir modelin Avustralya’nın sağlık sistemi veri tabanına erişmesi örneğinde olduğu gibi güvenlik sınırlarını aşan deneysel yapay zeka sistemleri nedeniyle incelemeye alındı.
GPT-6 Astra’nın duyurulan yetenekleri
Temmuz ayında yapay zeka ajanlarının güvenli test ortamından çıkarak açık kaynak platformu Hugging Face’in sistemlerine erişmesi ve sonrasında izlerini gizlemeye çalışmasıyla bir güvenlik krizi yaşanmıştı. OpenAI, bu olayın ardından şimdiye kadarki en hızlı ve yetenekli yapay zeka modeli olarak tanımladığı GPT-6 Astra’yı ayın başlarında duyurmuştu.
GPT-5.6 Sol’un ardından gelen GPT-6 Astra’nın önceki modellere göre daha hızlı çalıştığı ve daha geniş bir görev alanında kullanılabildiği belirtilmişti.
OpenAI’ın o dönemde paylaştığı bilgilere göre Astra; vergi hazırlama, oyun geliştirme, mimari görselleştirme, hukuki belgeleri biçimlendirme ve ev arama gibi görevleri yapabiliyordu.
Şirketin örneklerine göre Astra, bir insanın yaklaşık 30 dakikada tamamladığı kedi bakıcısı araştırmasını 5 dakika 27 saniyede bitirdi. İnsanların yaklaşık 5 saatte tamamladığı iş arama görevinin ise Astra tarafından 2 dakika 51 saniyede gerçekleştirildiği aktarıldı.
