Damıtma saldırısı terimi, Anthropic’in Çinli yapay zeka şirketlerini suçladığı iddiaların merkezinde yer alıyor. Anthropic, DeepSeek, Moonshot AI ve MiniMax’in Claude modellerinden “endüstriyel ölçekli” veri sızdırarak model kopyaladığını öne sürdü.
Şirketin bloguna göre bu aktörler, hizmet şartlarını ve erişim kısıtlamalarını ihlal ederek yaklaşık 24 bin sahte hesap üzerinden Claude ile 16 milyondan fazla etkileşim gerçekleştirdi.
Model damıtma (distillation), büyük bir “öğretmen” modelin öğrendiği kalıpları daha küçük bir “öğrenci” modele aktarma sürecidir. Amaç, daha az hesaplama gücüyle benzer performans gösteren verimli modeller üretmektir.
Süreçte öğretmen model çok sayıda çıktı üretir; öğrenci model ise yalnızca doğru cevabı değil, öğretmenin olasılık dağılımlarını ve ince ayarlı çıktıları da taklit edecek şekilde eğitilir. Bu, daha zengin bir eğitim sinyali sağlar.
Anthropic, söz konusu veri toplama faaliyetlerini dağıtık altyapılar üzerinden yürütülen “hydra kümeleri” şeklinde tanımladı. İddialara göre saldırılar, hafifçe değiştirilmiş çok sayıda komut gönderilerek model yanıtlarının toplanması ve bunların yeni modelleri eğitmek için kullanılmasıyla gerçekleşti.
Şirket, izinsiz şekilde damıtılmış modellerin yeterli güvenlik önlemlerine sahip olmayabileceğini ve bunun siber saldırılar, dezenformasyon ya da kitlesel gözetim gibi riskleri artırabileceğini savundu. Anthropic açıklamasında, “Yasa dışı biçimde damıtılmış modeller gerekli güvenlik bariyerlerinden yoksundur ve ciddi ulusal güvenlik riskleri yaratır” ifadelerine yer verildi.
Anthropic ve diğer ABD’li yapay zeka şirketleri aynı zamanda modellerini eğitirken telif hakkıyla korunan içerikleri izinsiz kullandıkları gerekçesiyle birçok dava ile karşı karşıya. Örnekler arasında üç yazarın Anthropic’e açtığı dava ve müzik endüstrisinin yaklaşık 3 milyar dolar tazminat talebiyle açtığı davalar bulunuyor.
Ek olarak Reddit gibi platformlar Anthropic’i kullanıcı içeriklerini izin almadan kazıyarak toplamakla suçladı; OpenAI de ABD’de birleştirilen 16 ayrı telif davasıyla karşı karşıya. Bu hukuki süreçler, yapay zeka modellerinin eğitim verisi kullanımı tartışmasını sürdürmektedir.
Claude’un ABD ordusunun gizli sistemlerinde kullanıldığı ve ocak ayında Venezuela lideri Nicolás Maduro’ya yönelik bir operasyonda yer aldığına dair haberler daha önce yer almıştı. Anthropic’in kullanım kuralları Claude’un silah geliştirme veya gözetim amaçlı kullanılmasını yasaklıyor; şirket ile Pentagon arasında bu nedenle gerilim yaşandığı bildirildi.
Yapay zeka alanında ABD ile Çin arasındaki rekabet sürerken uzmanlar iki ülke modelleri arasındaki farkın zamanla kapanacağını öngörüyor. Anthropic’in suçlamalarına ilişkin olarak adı geçen Çinli şirketlerden henüz resmi bir yanıt gelmedi.