Anthropic CEO’su ve kurucu ortağı Dario Amodei, kişisel internet sitesinde yayımladığı 38 sayfalık denemede yapay zeka risklerine karşı acil önlem çağrısı yaptı. Metin “Teknolojinin Ergenlik Çağı” başlığını taşıyor.
Amodei, kendi kendini geliştirebilen yapay zeka sistemlerinin bir ila iki yıl içinde ortaya çıkabileceğini öne sürerek bunun insanlığın köleleştirilmesi ve “kitlesel yıkım” gibi sonuçlar doğurabileceği uyarısında bulundu.
Denemede yapay zekanın yol açabileceği senaryolar ele alınıyor: yapay zeka destekli biyoterörizm, kötü niyetli yapay zekalar tarafından yönetilen drone orduları ve yapay zekanın insan emeğini toplum genelinde işlevsiz hale getirmesi gibi riskler detaylandırılıyor.
Bu tehditlere karşı önerilen çözümler sektör içi özdenetimden ABD Anayasası’nda değişikliğe kadar uzanan bir yelpazeyi kapsıyor.
Metin aynı zamanda yapay zekanın insan gibi ele alınması konusundaki tartışmalara da değiniyor. Amodei yapay zekayı bilinçli ve “psikolojik açıdan karmaşık” bir varlık gibi tasvir ederken eleştirmenler bunun yazarın vurguladığı tuzağın kendisi olduğunu belirtiyor.
Mashab’le’a göre eleştiriler, Amodei’nin süper zekanın “hep kapının eşiğinde” olduğu yönündeki öngörülerine de odaklanıyor. CEO daha önce 2024’te yayımladığı başka bir yazıda benzer bir bir-iki yıllık ortaya çıkış tahmini yapmıştı ve bu tekrar, kıyamet senaryolarının sürekli ertelenen bir yakın gelecek algısı yarattığı yorumlarına yol açtı.
Uzmanlara göre büyük dil modelleri güçlü araçlar olsa da bilinç, duygu veya gerçek empatiye sahip değil; Apple’ın bir araştırmasında bu modellerin yalnızca “düşünme yanılsaması” sunduğu ifade edilmişti. Bazı yorumcular ise Skynet benzeri senaryolar yerine yapay zekanın bugün yol açtığı somut sorunlara odaklanılması gerektiğini savunuyor.
Tartışma, Amodei’nin uyarıları ve eleştiriler arasında devam ediyor; metin hem olası tehlikeleri hem de bu tehlikelere karşı önerilen önlemleri gündeme taşıyor.