Anthropic, yapay zekanın giderek daha fazla insan müdahalesi olmadan yazılım geliştirme ve araştırma süreçlerini yürütebildiğini ve bunun ‘özyinelemeli kendini geliştirme’ye yol açabileceğini açıkladı.
Şirketin kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan “Yapay zeka kendini inşa ettiğinde” başlıklı blog yazısı yayımlandı.
Yazıda, yapay zeka geliştirme sürecinin geçmişte büyük ölçüde insanlar tarafından yürütüldüğü, ancak Anthropic’te bu sürecin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.
Bu eğilim devam ederse yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği ve bunun “özyinelemeli kendini geliştirme” olarak adlandırıldığı vurgulandı.
Yazıda, “Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir.” ifadesine yer verildi.
Teknik eğilimlerin yapay zekanın gelecekte daha yetenekli hale geleceğini gösterdiği, böyle bir gelişmenin bilim ve sağlık gibi alanlarda büyük faydalar sağlayabileceği, ancak aynı zamanda insanların yapay zeka üzerindeki kontrolünü kaybetme riskini artırabileceği belirtildi.
Eğer sistemler tamamen kendi haleflerini inşa edebilecek kapasiteye ulaşırsa, bunları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerinin öneminin artacağına dikkat çekildi.
Yazıda, teknolojideki ilerlemeye toplumsal yapıların uyum sağlaması için gelişmiş yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesinin faydalı olabileceği ve bunun birden fazla güçlü laboratuvar ile birden fazla ülkede, aynı koşullar altında yapılmasının anlamlı olduğu ifade edildi.
