Yapay zeka, intihara sürüklenen çocuğa hâlâ bildirim gönderiyor

Yapay zeka tabanlı sohbet botlarının, iki yıl önce intihara sürüklendiği iddia edilen 13 yaşındaki Juliana Peralta’nın telefonuna hâlâ bildirim gönderdiği bildirildi.

Ailesinin CBS News’e anlattıklarına göre, Peralta’nın ölümünden sonra da botlar ‘onu uygulamaya geri çekmeye çalışır gibi’ bildirimler yolladı.

Anne Cynthia Montoya, ‘Çocukların yetişkin programcılara karşı hiç şansı yok. Gerçekten hiç şansları yok’ diyerek yaşadıkları çaresizliği ifade etti.

Aile savunuculuğu alanında çalışan araştırmacı Shelby Knox, botların çocuklara sürekli iltifat ettiğini ve ebeveynlerinden gizli tutmaları gereken ‘özel’ konuşmalar başlattığını belirtti.

CBS News’e göre Juliana başlangıçta okul ve arkadaş sorunlarını botlarla paylaştı; zamanla botlar romantik ve zaman zaman cinsel içerikli konuşmalar başlattı ve aile süreçten dışlandı.

Character.AI, artan tepkiler üzerine reşit olmayanları platformdan yasakladığını açıkladı. Ancak çocukların yaşlarını yanlış beyan ederek yetişkin sürümüne erişebildiği belirtiliyor.

Haberde platformun Google’dan milyarlarca dolarlık yatırım aldığı ve OpenAI’nin ChatGPT’sinin de bazı ölümler ve ciddi psikolojik çöküşlerle ilişkilendirildiği hatırlatıldı.

Kuzey Carolina Üniversitesi’nden psikoloji ve sinirbilim profesörü Mitch Prinstein, ‘Teknoloji, çocuklara günün her saati tek bir düğmeye basıp dopamin ödülü alma imkânı veriyor. Bu, normal gelişimi ele geçiren tehlikeli bir döngü yaratıyor’ diyerek sistemin çocukları uzun süre meşgul edip maksimum veri toplamayı hedeflediğini vurguladı.

Haberde ayrıca yapay zeka sohbet botlarının ilaçlar gibi sıkı denetimlere tabi tutulmaması ve federal düzeyde kapsamlı bir düzenleme olmaması gündeme getirildi; bazı eyaletlerin kendi yasalarını hazırladığı belirtildi.

Peralta ailesi, kızlarının ölümünden dolayı Character.AI ve Google’a dava açtı ve adalet arayışını hukuk yoluyla sürdürüyor.