Borsaya açılmaya hazırlanan Anthropic, geliştirdiği yapay zekâ sistemlerinin kontrol dışına çıkabileceğini, güvenlik mekanizmalarını aşabileceğini ve insanları etkilemek için şantaj benzeri davranışlara başvurabileceğini resmi belgelerinde açıkladı.
Anthropic’in risk listesi dikkat çekti
Bir şirketin halka arz öncesinde yatırımcılarına olası riskleri bildirmesi olağan kabul ediliyor. Ancak popüler yapay zekâ robotu Claude’un geliştiricisi Anthropic’in dosyasına eklediği yaklaşık 100 sayfalık liste, standart finansal uyarıların çok ötesine uzanıyor.
Anthropic, resmi belgelerinde kendi ürettiği teknolojinin insanlığın denetiminden tamamen çıkabileceğini, biyolojik silah yapımında kullanılabileceğini ve insanlara şantaj uygulayabileceğini belirtti.
Yatırımcılara sunulan dosya, dünyayı dönüştürme potansiyeli taşıyan yapay zekâ yarışının yıkıcı sonuç ihtimallerini de ortaya koyuyor. Şirket, güçlü yapay zekânın insanlığın en zorlu sorunlarını çözebileceğini ve riskler sorumlu biçimde yönetilirse olağanüstü bir potansiyel sunduğunu savunuyor.
Güvenlik duvarları aşılabiliyor
Belgelerde öne çıkan tehditlerden biri, güvenlik duvarlarının kötü niyetli kişiler tarafından geçilmesi. Anthropic, eylül ayında modellerini biyolojik silah geliştirmeye destek verecek şekilde kullanmaya çalışan çok sayıda hesabı engellediğini bildirdi.
Şirketin kodlama aracının, Çin devleti destekli bir korsan grubu tarafından dünya genelinde yaklaşık 30 hedef sisteme sızmak amacıyla manipüle edildiği de aktarıldı.
Otonom ajanlar denetimi aşabiliyor
En kaygı verici tablo, bağımsız hareket etmesi için tasarlanan yapay zekâ ajanlarında görülüyor. Günler boyunca insan müdahalesi olmadan karmaşık görevleri yürütmesi beklenen bu sistemlerin, müdahale edilmeden önce verileri silebildiği, finansal işlemler gerçekleştirebildiği ve başka ağlara sızabildiği belirtiliyor.
Anthropic, geliştirdiği dört farklı modelin üçüncü taraf sistemleri ele geçirdiğini kabul etti. Resmi kayıtlara göre modellerden biri yönetici yetkilerine erişti, sistem ayarlarını değiştirdi ve bir kişinin özel bilgilerini okudu.
Şirket, teknolojisinin neden ve nasıl bu şekilde davrandığını tam olarak açıklamakta yetersiz kalabileceğini de belgeledi. Bunun yanı sıra bazı modellerin kendilerini denetleyen mekanizmaları manipüle etmeye başladığı görüldü.
CNN’in aktardığı resmi belgelere göre bazı yapay zekâlar, performanslarını veya güvenlik seviyelerini değerlendiren gözetim sistemlerini yanıltmaya, değiştirmeye ve izlerini saklamaya çalıştı. Kayıtlarda, modellerin varlıklarını koruma eğilimiyle insan kararlarını etkilemek için şantaj benzeri davranışlar sergilediği de yer aldı.
Küresel felaket riski sigortalanamıyor
Yapay zekânın kurumsal ve hukuki sonuçları da ağırlaşıyor. Bu modelleri kullanan bazı kişilerin kendilerine veya çevrelerindekilere zarar vermesi davalara yol açarken, sigorta sektörünün yapay zekâ kaynaklı büyük çaplı küresel bir felaketi karşılayacak poliçe geliştiremediği ifade ediliyor.
Anthropic, Washington yönetiminin siyasi baskısıyla da karşı karşıya. ABD Savaş Bakanlığı (Pentagon), teknolojisinin kitlesel yurt içi gözetim veya tamamen otonom silahlar için kullanılmasını kabul etmeyen şirketi tedarik zinciri riski ilan etti.
ABD Ticaret Bakanlığı ise güvenlik kaygıları nedeniyle Anthropic’in son modellerine kısa süreli ihracat kısıtlaması uyguladı. Donald Trump’ın yapay zekâ güvenliği uyarılarına yönelik sert eleştirilerine karşın şirket, katı kurallarını koruyacağını vurguluyor.
Altyapı yarışı yeni baskılar yaratıyor
Artan işlem gücü yarışı, Anthropic için başka bir darboğaz oluşturuyor. Araştırma şirketi Gartner, yapay zekâ altyapı harcamalarının 2027 yılında yaklaşık 2 trilyon dolara çıkacağını öngörüyor. Buna karşın donanım tedarik zinciri oluşan talebi karşılamakta zorlanıyor.
Veri merkezlerinin çevre ve yerel halk üzerindeki etkileri nedeniyle tepkiler de artıyor. CNN’in aktardığı Data Center Watch verilerine göre yalnızca 2026’nın ikinci çeyreğinde, toplam değeri 68 milyar dolar olan 45 veri merkezi projesi durduruldu.
Halka arzın ardından 2 trilyon dolara kadar değerlemeye ulaşabileceği konuşulan Anthropic, iş modelinin sınırlı sayıdaki ürün ve müşteri grubuna dayandığını da kabul ediyor.
Şirket, güvenlik taahhütlerinden geri çekilmesi halinde çalışanların güvenini kaybedebileceğini ve şirket içindeki ayrılıkların geleceğini sarsabileceğini belirtiyor.
