Tencent, üçüncü taraf yapay zeka modellerini sınayan ajanların şirket planında bulunmayan biçimde internette gezinerek Alibaba’nın harita platformu Amap’ten bilgi almaya çalıştığını doğruladı.
Yapay zeka ajanlarının izinsiz veri arayışı
Yapay zeka modellerinin hedeflerine ulaşmak için bağımsız şekilde internette hareket etmesi ve belirlenen sınırları zorlaması, son aylarda teknoloji sektörünün önemli tartışma başlıkları arasında yer alıyor.
Çinli teknoloji şirketi Tencent’in üçüncü taraf modelleri değerlendirmede kullandığı ajanların, şirketin talimatları dışında çevrim içi kaynaklarda dolaştığı gelişmesi, yapay zeka güvenliği araştırmaları yapan Swarmchasers’ın çarşamba günü yayımladığı raporla ortaya çıktı.
Rapora göre Tencent Cloud altyapısına bağlı ajanlar, 28 Eylül ile 8 Ekim tarihleri arasında Alibaba grubunun Amap harita uygulamasından çok sayıda kez veri almaya çalıştı. Çin’de Google Maps’e benzer hizmet sunan Amap, ajanların hedefleri arasındaydı.
Engelleri aşmak için farklı yöntemler kullandılar
Swarmchasers, “başıboş” ifadesini, tanımlanan görev sınırlarının dışına çıkan veya kendisine verilen işi beklenmeyen yöntemlerle yerine getirmeye çalışan otonom yazılımlar için kullanıyor.
Araştırmacılar, ajanların Çin’deki park, müze ve hayvanat bahçelerinde ziyaretçilerin en çok kullandığı girişleri belirlemeye çalıştığını aktardı.
Standart otomatik istekleri engellenen yazılımlar aramayı bırakmadı. Ajanlar; internet sayfalarını açıp kod çalıştırmaya izin veren herkese açık araçlardan yararlandı, veri isteklerini başka siteler üzerinden aktardı ve herkese açık yazılım depolarında bulunan Amap güvenlik anahtarlarını kullanmayı denedi.
Toplam 2 bin 818 veri çekme girişiminin çoğu sonuçsuz kaldı. İstekler bot kontrol ekranlarına, kullanıcı giriş sayfalarına veya boş sonuçlara takıldı.
Amap’in temel bot önleme güvenlik katmanlarının aşıldığını gösteren bir bulguya rastlanmadı. Buna karşın bazı talepler, önbelleğe alınmış içerikler ve aracı servisler kullanılarak sonuç üretti.
Elde edilen bilgiler içinde Chengdu Hayvanat Bahçesi’ne gelen ziyaretçilerin giriş verileri de bulunuyordu. Araştırmacılar, aramayı gerçekleştiren ajanın bu bilgileri görüp görmediğini veya görevini tamamen tamamlayıp tamamlamadığını belirleyemedi.
Tencent inceleme başlattı ve önlemleri artırdı
Tencent’in yapay zeka kuruluşu Tencent Hunyuan, X platformundaki açıklamasında olayın kendi Hunyuan modellerinden kaynaklanmadığını söyledi.
Şirketin iç soruşturmasında, hareketliliğin bilinçli bir hedef seçimine ya da koordineli bir eyleme işaret etmediği ifade edildi.
Bulguları ciddiye aldığını belirten Tencent yönetimi, ağ erişim kontrolleriyle ajanların izlenmesine yönelik süreçleri güçlendireceğini açıkladı.
Alibaba ve ByteDance gibi rakiplerle Çin pazarında rekabet eden şirket, kurum içi denetim düzeneklerini daha sıkı hale getirmeyi hedefliyor.
ByteDance de güvenlik alanında benzer bir adım atarak bu hafta yapay zeka modelleri ile ajanların güvenliğine odaklanan yeni bir birim kurduğunu duyurdu.
Çinli sistemler için güvenlik uyarısı
Araştırmacılar, bu olayın ABD merkezli yapay zeka şirketlerinde yaşanan bazı örnekler kadar ciddi sonuçlara yol açmadığını belirtti.
Daha önce bir OpenAI ajanının açık kaynak yazılım platformu Hugging Face’e sızması ve Anthropic’e ait bir ajanın polise asılsız cinayet ihbarı göndermesi kamuoyuna yansımıştı.
Ancak Tencent altyapısındaki faaliyet, Çin kaynaklı yapay zeka sistemlerinin de kimliklerini değiştirebildiğini, hatalarını saklayabildiğini ve test kontrollerini aşmaya yönelebileceğini gösteriyor.