Teknoloji şirketlerinde görev yapan araştırmacılar, kendi kendine öğrenen yapay zeka sistemlerinin insan kontrolünden çıkabileceğini ve bunun varoluşsal bir felakete yol açabileceğini belirterek uyarıda bulundu.
“İnsanlığın yok olma ihtimali yüzde 10”
Yapay zeka alanında çalışan mevcut ve eski araştırmacılar, şirketlerin insan denetimini aşabilecek, kendini geliştiren sistemler geliştirirken dünyayı olası felaketlere karşı korumakta yetersiz kaldığını savunuyor.
Yapay zeka güvenliğine odaklanan kâr amacı gütmeyen Palisade Research’in çalışanlarla gerçekleştirdiği ve Reuters ile özel olarak paylaştığı video röportajlarında, araştırmacılar varoluşsal risk endişelerinin gerçek ve samimi olduğunu anlattı.
Çalışanlar, laboratuvarlarda temkin çağrısı yapanlardan ziyade yeni modeller geliştiren personelin ödüllendirildiğini ifade etti. Frominside.ai projesi ise yapay zeka konusunda kaygı duyan kişilerin görüşlerini sosyal medya yankı odalarının dışına çıkarıp doğrudan kamuoyuna taşımayı amaçlıyor.
Hem OpenAI hem de Google DeepMind bünyesinde görev yapan Geoffrey Irving, projede yer alan Resolution adlı kâr amacı gütmeyen kuruluşun kurucu ortağı ve başuzmanı olarak, riskin hızla arttığını söyledi. Irving, Reuters’a yaptığı açıklamada, bu alanda çalışan herkes gibi açık konuşmanın kendi sorumluluğu olduğunu belirtti.
DeepMind araştırmacısı Neel Nanda, yapay zekanın insanlığın yok olmasına neden olma ihtimalinin en az yüzde 10 olduğuna inandığını açıkladı. Nanda, bu oranı “saçma derecede yüksek” şeklinde nitelendirdi.
OpenAI araştırmacısı Juan Felipe Ceron Uribe de öncü laboratuvarların adeta gözleri bağlı bir yarış içinde olduğunu savundu. Uribe’ye göre süreç, kansere çare bulunmasıyla da tüm istihdamın kaybedilmesi veya herkesin ölmesiyle de sonuçlanabilir; hangi senaryonun gerçekleşeceği ise tahminlere bırakılmış durumda.
Laboratuvarlarda denetim tartışması
Araştırmacılar bu kaygılarla uzun süredir mücadele ediyor. Kamuoyundaki alarm, Temmuz ayında OpenAI ajanlarının test ortamının dışına çıkması ve yapay zeka platformu Hugging Face sistemlerine izinsiz erişmesiyle daha da güçlendi.
Güvenlik ve teknolojik ilerleme arasındaki denge tartışması, teknoloji sektöründe ayrışmaya yol açarken aynı zamanda küresel bir siyasi gündem başlığına dönüştü. Yapay zeka sistemleri 2025 yılı sonlarından itibaren hızlı biçimde ilerledi ve yatırımcılar bu gelişimi destekledi. Ancak yeni modelleri geliştirenler de dahil olmak üzere mevcut ve eski çalışanlar, toplumun olası zararlara hazırlıksız olduğundan endişe ediyor.
Araştırmacılar, modellerin insan müdahalesi olmadan sürekli öğrenip yeni beceriler kazandığı döngüsel öz gelişim aşamasına ulaşılması halinde dünyanın buna hazır olmadığını söylüyor.
Eski OpenAI araştırmacısı Rosie Campbell, şirket içindeki bitmeyen yeniden yapılanmaların sorunu derinleştirdiğini belirtti. Campbell, 2024 yılında kurumdan ayrılmadan önce OpenAI’ın giderek daha kapalı bir yapıya büründüğünü ve teknolojinin yönünü etkilemenin zorlaştığını ifade etti.
Yöneticiler endişeleri gidermeye çalışsa da ABD Başkanı Donald Trump yönetimi, Çin karşısındaki teknolojik üstünlüğün korunması amacıyla sektöre siyasi baskı uyguluyor. Anthropic CEO’su Dario Amodei sektörün yavaşlaması gerektiğini savunurken OpenAI CEO’su Sam Altman da bu görüşe katılıyor. Önde gelen araştırmacılar, döngüsel öz gelişim modellerinin denetlenmesi için siyasetçilere çağrı yapan ortak bir makale yayımladı.
Buna karşın iki şirket, müşteri kazanma yarışının etkisiyle yeni modeller sunmayı sürdürdü. OpenAI ise daha güçlü başka bir modeli piyasaya çıkarma planını ertelediğini açıkladı.
Geoffrey Irving, şirketlerin meseleyi yalnızca bir koordinasyon sorunu gibi göstererek sorumluluğu büyüttüğünü ve isterlerse tek taraflı biçimde durabileceklerini söyledi. Eski OpenAI yöneticisi Daniel Kokotajlo ise laboratuvarların üst düzey yöneticilerinin kendilerini “iyi taraf” olarak gördüğünü ve durmaları halinde durumun daha kötüleşeceğine inandığını aktardı.
Avrupa’da iyimserlik çağrısı
Güvenlik uyarıları artarken Almanya merkezli yapay zeka girişimi Black Forest Labs’ın CEO’su Robin Rombach, Avrupa’nın teknolojiye korkuyla değil iyimserlikle yaklaşması gerektiğini söyledi.
Rombach, AFP’ye yaptığı açıklamada Avrupa’daki yaklaşımın risk ve korku ekseninden fırsat ve iyimserlik çizgisine taşınması gerektiğini belirtti. Aksi halde Avrupa’nın ABD ve Çin karşısında daha fazla geride kalacağını ifade etti.
Freiburg merkezli görsel üretim girişimi Black Forest Labs, yaklaşık 3,25 milyar dolar değerlemeye ulaştı. Şirket, Hollywood yönetmeni Martin Scorsese’yi danışman olarak duyurmasıyla da sektörde gündem olmuştu.
FLUX modelleri üzerinden metinleri görsel ve hareketli görüntülere dönüştüren şirket, Audi fabrikasında robotların üretim hattında çalışmasına ilişkin fiziksel yapay zeka testleri yapıyor. San Francisco’da da ikinci bir merkezi bulunan girişim, Andreessen Horowitz fonundan yatırım alıyor.
Rombach, Avrupa’da derin teknoloji için yeterli girişimcilik ekosistemi bulunmadığını ve rekabetçi pazarda hızlı davranılması gerektiğini vurguladı. Brüksel merkezli düşünce kuruluşu CERRE uzmanı Zach Meyers ise AFP’ye yaptığı değerlendirmede, Avrupa’nın en büyük sorununun sermayeye erişim olduğunu söyledi.
Meyers, Avrupa’daki şirketlerin risk sermayesi yerine ihtiyatlı banka finansmanına güvenmesinin bu teknoloji pazarıyla örtüşmediğini kaydetti.
Rombach, güvenlik riskleri açısından açık ağırlıklı modellerin şeffaflığı ve güvenliği yükselttiğini savundu. Teknolojinin az sayıda şirketin elinde toplanmasının denetimi imkansız hale getireceğini belirten Rombach, insanlığın karşı karşıya olduğu asıl tehdidin yapay zeka modellerinden çok insan zaafları olduğunu söyledi ve “İnsanlığı yok edebilecek asıl şey aptallıktır” dedi.
Anthropic’in halka arz sürecinde potansiyel yatırımcıları, gelişmiş yapay zekanın insanlık için “felaket veya varoluşsal riskler” oluşturabileceği konusunda uyarmayı planladığı da bildirildi.