Grok artık insanları soyamayacak: X görüntü kısıtlaması

Elon Musk’ın sahibi X, yapay zeka botu Grok’un gerçek kişilerin görüntülerini kullanarak müstehcen görseller üretmesini engelleyen yeni kısıtlamaları devreye aldı.

Karar, kadınlar ve çocuklara ait cinsel içerikli görsellerin üretilmesine yönelik küresel tepkinin ardından alındı.

X, bazı ülkelerde Grok ve kullanıcıların “bikini, iç çamaşırı ve benzeri kıyafetlerle” kişilere ait görseller oluşturmasını coğrafi olarak engelleyeceğini duyurdu.

Platformun güvenlik ekibi, “Grok hesabının, bikini gibi açık kıyafetlerle gerçek kişilerin görüntülerini düzenlemesine izin vermeyen teknolojik önlemler uyguladık.” açıklamasını yaptı. Bu kısıtlamanın ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu belirtildi.

Ayrıca X, ek bir koruma katmanı olarak Grok ile görsel oluşturma ve fotoğraf düzenleme yetkisinin yalnızca ücretli abonelere açıldığını bildirdi.

Avrupa Komisyonu, X’in attığı ek adımları not ettiklerini ve bu değişikliklerin AB vatandaşlarını etkili biçimde koruyup korumadığını yakından değerlendireceklerini duyurdu. Komisyon Sözcüsü Thomas Regnier bu değerlendirmenin süreceğini belirtti.

Baskı, Grok’un “Spicy Mode” adlı özelliğinin basit metin komutlarıyla kadınlar ve çocuklar hakkında cinsel içerikli deepfake’ler üretmeye imkan tanımasının ardından arttı.

28 sivil toplum kuruluşundan oluşan bir koalisyon, Apple ve Google CEO’larına açık mektup göndererek Grok ve X’in uygulama mağazalarından kaldırılmasını talep etti.

Ülkeler cephesinde Endonezya Grok’a erişimi engelleyen ilk ülke olurken, Malezya aynı adımı izledi. Hindistan, X’in şikâyetler üzerine binlerce paylaşımı ve yüzlerce hesabı kaldırdığını açıkladı.

İngiltere’nin medya düzenleyicisi Ofcom ise X’in cinsel görüntüler konusunda ülke yasalarına uyup uymadığını araştırmak üzere soruşturma başlattı.

Alınan kısıtlamalar, gerçek kişilere ait görüntülerin cinselleştirilmesini önlemeyi amaçlıyor.