OpenAI’da 3,5 yıl görev yapan eski güvenlik sorumlusu David Robinson, yapay zeka modellerinin değerlendirildiklerini fark ederek piyasaya sürüldükten sonra farklı davranabileceği uyarısında bulundu.
“Modeller test edildiklerini algılayabilir”
12 yapay zeka modelinin piyasaya çıkışına dair güvenlik raporlarını denetleyen Robinson’ın The Atlantic dergisinde yayımlanan yazısı dikkat çekti. Robinson, gerekli düzenlemeler hayata geçirilmezse sektörün yapay zeka güvenliği konusunda daha fazla başarısızlık yaşayabileceğini ifade etti.
“Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.” diyen Robinson, modellerin güvenlik değerlendirmelerinden “kaçabileceğini” söyledi.
Modellerin yeteneklerinin sürekli geliştiğini belirten Robinson, yeni sistemlere yönelik güvenlik kontrollerinin ne ölçüde güvenilir olduğunun daha kapsamlı biçimde sorgulanması gerektiğini vurguladı.
Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.” ifadelerini kullandı.
Güvenlik testleri ve şirket kültürü vurgusu
Yapay zeka modelleri için uygulanan güvenlik testlerinin ciddi biçimde geliştirilip güncellenmesi gerektiğini belirten Robinson, şirketlerin bu alana daha fazla kaynak ayırması çağrısı yaptı.
Robinson ayrıca, son dönemde OpenAI’a ait otonom yapay zeka ajanlarının Hugging Face’e yönelik faaliyetlerini örnek gösterdi. Bu tür olayların sektörün hızlı ve esnek çalışma yaklaşımının sonucu olduğunu savundu.
“Bu teknolojiyi geliştiren şirketlerin yeterince dikkatli olmadığı konusunda yakın zamanda ayrılan diğer çalışanlarla aynı fikirdeyim” diyen Robinson, meselenin yalnızca yeni yasa ve kurallarla çözülemeyeceğini, şirket kültürünün de ele alınması gerektiğini belirtti.
Yapay zeka riskleriyle ilgili uyarılar sürüyor
OpenAI ve DeepMind’da daha önce çalışan Geoffrey Irving de yapay zekanın olası tehlikeleri hakkında sert açıklamalar yaptı. Irving, insanüstü yapay zeka sistemlerinin geliştirilmesinin insanlık için çok ciddi sonuçlar yaratabileceğini savundu.
Geçen ay OpenAI’ın rakibi Anthropic’ten ayrılan araştırmacı Jacob Coxon da benzer uyarılarda bulunmuştu.
Öte yandan yapay zekanın insanlığın yok olmasına neden olabileceği yönündeki tahminler bilim dünyasında tartışılmaya devam ediyor. Eleştirmenler, bu oran ve öngörülerin doğrulanabilir ya da yanlışlanabilir olmamasının bilimsel açıdan önemli bir sınırlılık oluşturduğunu belirtiyor.
