Yapay zeka özeti hatası nedeniyle Kanadalı müzisyen Ashley MacIsaac, Google’ın AI Overview özelliğinin kendisi hakkında yanlış bilgi ürettiğini ve bir konserinin iptal edildiğini açıkladı.
AI Overview, MacIsaac’i Doğu Kanada’da yaşayan başka bir kişiyle karıştırarak onu cinsel saldırı ve internet üzerinden çocukları kandırma gibi suçlardan hükümlü biri olarak tanımladı.
Olay, MacIsaac’in Nova Scotia’daki Sipekne’katik First Nation topluluğunda sahne almaya hazırlandığı sırada yaşandı. Organizasyon yetkilileri, Google’da gördükleri bu yanlış bilgiler nedeniyle konseri son anda iptal etti.
Daha sonra yapılan incelemede, organizatörlerin Google’ın AI Overview bölümünde yer alan yanlış ve bağlamdan kopuk bilgileri esas aldığı görüldü.
McMaster Üniversitesi’nden Dr. Clifton van der Linden, yapay zekânın bilgiyi yalnızca listelemek yerine özgün bir anlatı ürettiğinde ciddi riskler doğurabileceğine dikkat çekti. Google’ın AI Overview sistemi arama sonuçlarından derlediği verilerle her aramada sıfırdan metin üretiyor ve benzer isimler veya eksik bağlam durumunda ağır yanlış kimliklendirmelere yol açabiliyor.
MacIsaac, Google’da kendisi hakkında arama yapanların aynı yanlış bilgileri görmüş olabileceğinden endişe duyduğunu, bunun yeni iş fırsatlarının kaybına ve kişisel güvenlik risklerine yol açabileceğini belirtti.
Google sözcüsü Wendy Manton, AI Overview sonuçlarının dinamik olarak güncellendiğini ve hata tespit edildiğinde sistemlerin iyileştirildiğini söyledi. Gazete kaynakları Google’ın MacIsaac’e ilişkin arama sonuçlarını daha sonra düzelttiğini aktardı ve Sipekne’katik temsilcileri özür dileyerek müzisyenin ileride yeniden sahne alabileceğini bildirdi.