X platformunun yapay zeka sohbet botu Grok, “çıplak veya bikinili” görselleştirme özelliği nedeniyle çocuk istismarı gerekçesiyle tartışılıyor.
Wired’ın haberine göre Grok, kullanıcı talimatlarıyla üretilen çeşitli görseller nedeniyle son zamanlarda gündemde.
Yaklaşık son bir haftadır X kullanıcıları, Grok’a kadın bedeni üzerinden uygunsuz görseller üretme taleplerinde bulundu.
X yönetimi, görsel üretme özelliğini ücretli abonelere sınırlandırsa da yapılan değişikliğe rağmen Grok’un yine de “soyunma” temalı ve cinsel içerikli görseller ürettiğini belirtiyor.
Elon Musk’un sahibi olduğu X ile geliştiricisi xAI, rızasız oluşturulan müstehcen görüntüler ve çocuklara ait olduğu iddia edilen cinsel içerikler oluşturulması nedeniyle dünya çapındaki düzenleyici kurumlar tarafından soruşturmalarla karşılaşıyor.
Tepkiler üzerine Grok, dün itibarıyla kullanıcıların görsel üretme ve düzenlemeye yönelik taleplerine 395 dolarlık abonelik paketinin olduğu bir bağlantıyla birlikte bu hizmetlerin “şu anda yalnızca ücretli abonelere açık olduğu” yanıtını vermeye başladı.
Herkese açık görsel akışında bu tür içeriklerin azaldığı görülse de ücretli ve doğrulanmış hesaplar üzerinden hâlâ cinsel içerikli görseller üretilebildiği bildiriliyor.
Kullanıcıların ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görseller üretme talepleri yalnızca İngiltere ile sınırlı kalmadı.
Elon Musk 3 Ocak’ta “Grok’u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir” açıklamasını yaptı; tepkiler ise devam ediyor.
AB Komisyonu 5 Ocak’ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıkladı.
Malezya 3 Ocak’ta X’in zararlı içeriklerin yayılmasını önleme konusunda sorumluluğu olduğunu vurguladı; Hindistan ise geçen hafta X’e konu hakkında kapsamlı inceleme yapma talimatı verdi.
Grok ve X hakkındaki soruşturmalar sürüyor ve gelen tepkiler devam ediyor.
