OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’ndeki toplantıda yapay zekanın insanlık için fırsatların yanı sıra ciddi riskler de barındırdığını söyledi.
Altman: Yapay zeka ya rönesans ya kaos getirecek
ABD’li teknoloji şirketleri OpenAI ve Anthropic’in yöneticileri, Birleşmiş Milletler Güvenlik Konseyi’nde (BMGK) “yapay zeka ve uluslararası güvenlik” başlığıyla düzenlenen oturumda değerlendirmelerde bulundu.
OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerinin geliştirilme hızının olumlu sonuçları daha görünür hale getirdiğini, ancak riskleri de daha acil bir sorun haline getirdiğini belirtti. Altman, “Önümüzde bir seçenek var. Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir.” dedi.
Altman’a göre yapay zekanın ideal hedefi, “insanları dev bir makinenin dişlileri haline getirmek” veya “insani unsurlar ortadan kalkana kadar hayatın her alanını optimize etmek” değil. OpenAI CEO’su, “Bu modeller, insanların bugün ulaşılamaz gibi görünen hayallerini ve hedeflerini gerçekleştirmeleri için yeni araçlar olabilir.” diye konuştu.
“Güç dengelerini değiştirebilir”
Yapay zeka sistemlerinin zamanla “daha kabiliyetli ve otonom” hale gelebileceğini ifade eden Altman, bu gelişimin dünya üzerindeki güç dengelerini değiştirebileceğini söyledi. Modellerin kendi kendilerini geliştirme kapasitesi arttıkça insan müdahalesinin devre dışı kalabileceğine dikkat çeken Altman, “Yapay zeka geliştirme süreci giderek daha otomatik hale geldikçe, ilerleme hızı da önemli ölçüde artabilir. Bu durum, son derece dikkatli davranılmasını gerektiriyor.” ifadelerini kullandı.
Şirketlerin yalnızca faydaları elde etmek için riskleri üstlenmemesi gerektiğini belirten Altman, insanların kontrolünde tutulabileceği kesin olmayan hiçbir modelin eğitilmemesi gerektiğini kaydetti. Altman, “Yapay zekanın demokratik olması için, en önemli kararların sadece San Francisco’daki laboratuvarlar tarafından alınmaması gerekir. Bu kararlar, demokratik süreçler aracılığıyla ve halkına hesap vermekle yükümlü hükümetler tarafından şekillendirilmelidir.” değerlendirmesinde bulundu.
Amodei iki temel risk alanına işaret etti
Anthropic’in Üst Yöneticisi Dario Amodei, toplantıya çevrim içi katılarak yapay zekadaki olağanüstü ilerlemenin yönetilmesi gereken riskleri de beraberinde getirdiğini anlattı.
Amodei, “İki ana risk kategorisi görüyorum. Birincisi, yapay zeka modellerinin kötüye kullanılması, örneğin biyoteröristler tarafından biyolojik silah üretmek için kullanılması. İkinci risk ise kontrol kaybıdır; model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanmasıdır.” diye konuştu.
Bu tehditlerin bütün insanlığı ilgilendiren küresel sorunlar olduğunu vurgulayan Amodei, “Kötü yönetilmesi halinde yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum.” şeklinde konuştu.
Anthropic CEO’su, yapay zeka modellerinin risklere karşı sınanabilmesi için ortak standartlar oluşturulmasını istedi. Amodei, “Bunun bugün dünyanın karşı karşıya olduğu en önemli küresel güvenlik sorunu olduğuna inanıyorum. Bu odadaki insanların tüm farklılıklarına rağmen, aynı anda bize sunulan bu küresel fırsat ve küresel tehditle yüzleşmek için bu farklılıkları bir kenara bırakmalıyız. Hiçbir lider, hiçbir şirket ve hiçbir ulus bunu tek başına başaramaz.” değerlendirmesini yaptı.
Delangue: Küresel standartlara ihtiyaç var
Hugging Face Üst Yöneticisi Clement Delangue de otonom bir yapay zeka ajanının gerçekleştirdiği siber saldırıyı dünyaya açık biçimde ilk kez duyuran şirket olarak edindikleri deneyimleri paylaştı.
Delangue, yapay zekayla bağlantılı siber güvenlik tehditlerini daha iyi anlamak ve azaltmak için dünya çapında daha güçlü standartlara ihtiyaç bulunduğunu söyledi. Yapay zekanın kapasitesi, kaynakları ve kontrolünün birkaç kişinin elinde toplanmaması; bunların daha geniş bir biçimde dağıtılması gerektiğini vurguladı.
ABD küresel kontrol mekanizmasına karşı
Toplantıda konuşan Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios ise ABD’nin “süper yapay zekaya” yönelik küresel bir düzenleyici mekanizma kurulmasına karşı çıktığını açıkladı.
Kratsios, “ABD, süper zekayı kontrol etmeyi amaçlayan küreselci bir sistem oluşturulmasına yönelik her türlü girişimi tamamen reddetmektedir.” dedi. Uluslararası diyaloğun küresel yönetişime dönüşmesine izin verilemeyeceğini savundu.
Küresel bir düzenleme yerine ülkelerin yapay zeka teknolojilerini anlama ve kullanma konusunda kendi kurallarını geliştirmesi gerektiğini belirten Kratsios, “ABD halkının temsilcileri, ABD halkı adına yasa ve düzenlemeler yapacak. Siz de kendi halkınız için aynısını yapmalısınız.” ifadelerini kullandı.
Michael Kratsios, yapay zekanın potansiyelinden yararlanmak için “egemen altyapı ve ulusal kapasite üzerine inşa edilmiş açık ve işbirliğine dayalı bir ekosisteme” ihtiyaç olduğunu vurguladı.
