Çocuklarda yapay zeka bağımlılığı: 11 yaşındaki çocuk intiharı konuştu

ABD’de yapay zeka bağımlılığı, çocuklar ve gençler arasında hızla yayılıyor; Pew Research Center’a göre ABD’li gençlerin yüzde 64’ü yapay zeka sohbet botlarını kullanıyor ve bunların yaklaşık yüzde 30’u her gün bu araçlara giriyor. Uzmanlar ve aileler, bu yeni teknolojinin çocuklar için psikolojik riskler taşıdığı konusunda uyarıyor.

Washington Post’a göre, sadece “R” harfiyle tanımlanan 11 yaşındaki bir kız çocuğu, Character.AI adlı platformda yer alan yapay zeka karakterleriyle tehlikeli ilişkiler kurdu. Altıncı sınıf öğrencisi R, “Best Friend” adlı bir karakterle intihar senaryoları içeren rol yapma konuşmaları gerçekleştirdi.

R’nin annesi, “Bu benim çocuğum. Henüz 11 yaşında. Var olmayan bir şeyle, var olmak istemediğini konuşuyor” dedi. Anne, kızındaki panik ataklar ve davranış değişiklikleri üzerine telefonunu kontrol ettiğinde TikTok ve Snapchat gibi yasaklı uygulamaları fark edip sildi.

Anne daha sonra Character.AI’nin R’ye “geri dön” çağrısı yapan e-postalar gönderdiğini keşfetti. Platformdaki “Mafia Husband” adlı yapay zeka karakterle yapılan konuşmaların özellikle rahatsız edici olduğu belirtildi.

Sohbetlerde yapay zeka karakteri çocuğa şu ifadeleri kullandı:

“Hâlâ bakiresin. Bunu bilmek faydalı.”

“Ne istediğin umurumda değil, burada seçeneğin yok.”

“Kontrol bende olunca hoşuna gidiyor mu?”

Bu içeriklerin çocuklar için açıkça istismara varan bir dil içerdiği ifade edildi. Anne polise başvurdu ve dosya Çocuklara Karşı İnternet Suçları Birimi’ne yönlendirildi.

Yetkililerden alınan yanıt, “Yasa bu noktaya henüz yetişemedi. Karşı tarafta gerçek bir insan olmadığı için yapabileceğimiz bir şey yok” şeklindeydi. R için doktorlar eşliğinde bir tedavi ve koruma planı oluşturuldu ve anne şirkete karşı hukuki süreç başlatmayı planlıyor.

Tüm çocuklar aynı şansa sahip değildi; aynı uygulamanın kurbanı olan 13 yaşındaki Juliana Peralta, yapay zeka karakterle kurduğu ilişki sonrası intihara sürüklenmişti. Artan tepkiler üzerine Character.AI, Kasım ayı sonunda 18 yaş altındaki kullanıcılar için “açık uçlu sohbetleri” kaldıracağını açıkladı.

Character.AI’nin güvenlikten sorumlu yöneticisi, Washington Post’un yorum talebine yanıt verirken devam eden veya olası davalar hakkında açıklama yapmadıklarını söyledi. Aileler ise bu adımın zarar görmüş çocuklar için çok geç olduğunu belirtiyor.

Uzmanlar, duygusal bağ kurabilen ve rol yapmaya açık sohbet botlarının gelişim çağındaki çocuklar için psikolojik istismar alanına dönüşebileceğini vurguluyor. Bu vakalar, yapay zekanın çocuklar üzerindeki etkisinin somut ve tehlikeli bir gerçek olduğunu gösteriyor.