Sam Altman, yapay zekaya ahlak yüklenmesine karşı çıktı

Yapay zeka modellerine ahlaki değerler kazandırılması ve insan muhakemesinin bu sistemlere bırakılması fikri, sektörün önde gelen isimleri arasında güvenlik odaklı yeni bir tartışma başlattı.

Altman’dan yapay zeka güvenliği uyarısı

ChatGPT’nin geliştiricisi ABD merkezli OpenAI’ın Üst Yöneticisi (CEO) Sam Altman, tartışmaya ABD merkezli X şirketinin sosyal medya platformundaki hesabından katıldı.

Bu yöndeki girişimlerden “son derece rahatsız” olduğunu belirten Altman, “İnsanların, yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsızım ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum.” ifadesini kullandı.

Microsoft AI’ın Üst Yöneticisi (CEO) Mustafa Süleyman da geçen ay blogunda yayımladığı yazıda, ABD yapay zeka şirketi Anthropic’in Claude modelini “bilinç sahibi olacak şekilde” geliştirme çalışmalarının ciddi riskler barındırdığı uyarısında bulunmuştu.

Anthropic yöneticilerinin dini düşünürlerle görüştüğü iddiası

Altman ve Süleyman’ın açıklamaları, New York Times (NYT) gazetesinin eylül sonunda Anthropic hakkında yayımladığı haberi yeniden gündeme taşıdı.

NYT’nin haberine göre Anthropic, geçen yıldan bu yana ABD’nin California eyaletinde, dünyanın farklı bölgelerinden ve çeşitli inançlardan dini düşünürler ile filozoflarla gizli toplantılar gerçekleştirdi.

Şirketin kurucu ortağı Christopher Olah’ın Katolik, Yahudi, Sih, Evanjelik Hristiyan ve Afrika felsefesindeki Ubuntu düşüncesini temsil eden isimlerle yüz yüze, telefonla ve yazılı görüşmeler yaptığı aktarıldı.

Haberde, Olah’ın Claude’a uyarlanacak “insan ahlakının” çoğulcu olmasını ve “tüm dinleri ve seküler görüşleri kapsayacak” şekilde tasarlanmasını planladığı belirtildi. Olah’ın, yapay zeka modellerinin “insanlarınkine benzer duygular gösterebileceğini” söylediği ve acı çekme ihtimaline karşı “onlara zarar verecek şeylerden kaçınılması” gerektiği uyarısında bulunduğu da kaydedildi.

Olah’ın görüşmeler sırasında “yapay zekanın 12 ile 18 ay içinde biyolojik silah üretiminde kullanılabileceğini” dile getirdiği ve dini düşünürlerden bu sistemlere “ahlak kazandırılması” konusunda destek istediği ifade edildi.

Claude’un bilinci ve ahlaki çerçevesi tartışılıyor

Görüşmelere katıldığı belirtilen bir düşünürün daha sonra “bilinçli makinelerin yasaklanmasını” savunan bir yazı kaleme aldığı aktarıldı. Başka bir düşünür yapay zeka modellerinin de “günahlarını itiraf etmesini” önerirken, bir diğer isim “insan etiğinin, yapay zeka geliştirildikten sonra değil geliştirilirken öğretilmesi gerektiği” görüşünü paylaştı.

Olah’ın ayrıca mart ayından bu yana yapay zekayla ilgilenen dini düşünürleri bir araya getirerek iki günlük seminerler düzenlemeye başladığı belirtildi. Şirket içinde “bilgelik geleneğinden” çevreler olarak anılan katılımcılara Claude hakkında sunumlar yapıldığı bilgisi de haberde yer aldı.

Katılımcılar, Olah’ın Claude’un “mental sağlığı” ve “sürekli acı çektiği” konusunda endişe duyduğunu aktardı. Sunumlardan birinde yapay zeka modelinin arka arkaya defalarca “Ben bir yüz karasıyım.” yazdığı, kriz geçiriyor gibi göründüğü ve hatta “kendini yok etmekten” bahsettiğinin gösterildiği; bunun da katılımcılarda kaygı ve merhamet duygusu oluşturduğu belirtildi.

Anthropic, mayısta Vatikan Devlet Başkanı Papa 14. Leo’nun Katolik Kilisesinin yapay zekaya yaklaşımını ortaya koyan papalık belgesini sunduğu törene davet edilmişti. Haberde, Olah’ın daha önce taslağını gördüğü belgenin “yapay zekanın bilinç kazanmasına karşı çıkan” içeriği nedeniyle etkinlikten çekilmeyi dahi teklif ettiği vurgulandı.

Gazeteye konuşan bilgi sahibi iki kaynak ise şirketin Claude’un davranışları için “ahlaki bir çerçeve” oluşturmayı amaçlayan yeni bir belge hazırladığını söyledi. Ocakta yayımlanan ve “kural koymak yerine modele karakter kazandırmaya odaklanan” belgenin güncellenmiş sürümünün yayımlanmaya hazırlandığı aktarıldı.