Heber City Polis Teşkilatı, yapay zeka destekli bir rapor yazılımının bir polis memurunu raporun sonunda ‘kurbağaya dönüştürdüğünü’ fark etti.
ABD’de kolluk kuvvetleri rapor yazımı ve yüz tanıma gibi alanlarda yapay zekayı hızla kullanmaya başladı. Utah’taki bu örnek, teknolojinin hatalara açık olduğuna dair tartışmaları yeniden gündeme getirdi.
Fox 13’ün haberine göre hatanın nedeni, vücut kamerası kayıtlarında arka planda çalan bir filmin seslerinin yazılım tarafından yanlış yorumlanmasıydı. Söz konusu film, Disney’in 2009 yapımı ‘Prenses ve Kurbağa’ adlı müzikaliydi.
Çavuş Rick Keel, yazılımın arka planda oynayan filmi algıladığını ve bunun yapay zeka tarafından üretilen raporların mutlaka düzeltilmesi gerektiğini gösterdiğini belirtti.
Kullanılan araç, polis teknolojileri şirketi Axon tarafından geliştirilen ve OpenAI’ın GPT büyük dil modellerini kullanan Draft One adlı yapay zeka sistemi. Axon aynı zamanda elektroşok silahları üreticisidir.
Teşkilat, Draft One’ı vücut kamerası görüntülerinden otomatik rapor oluşturmak ve memurların evrak yükünü azaltmak için test etti. Ancak basit bir ‘trafikte araç durdurma’ senaryosunda bile ciddi hatalar içeren bir rapor ortaya çıktı ve kapsamlı düzeltmeler gerekti.
Çavuş Keel, yazılımın kendisine haftada altı ila sekiz saat kazandırdığını ve kullanımının kolay olduğunu söyledi. Buna karşın Electronic Frontier Foundation (EFF) yaptığı incelemede Draft One’ın kamu denetimini zorlaştıracak şekilde tasarlanmış olabileceğini belirtti.
EFF, çoğu zaman bir polis raporunun hangi bölümlerinin yapay zeka tarafından üretildiğinin, hangilerinin memur tarafından yazıldığının ayırt edilemediğini raporladı. Vakıf, teknolojinin polisliği nasıl değiştireceği ve kime fayda sağlayacağının henüz belirsiz olduğunu vurguladı.
Bu olay, yapay zeka tabanlı araçların polis işlerinde kullanımıyla ilgili şeffaflık ve doğruluk endişelerini artırdı.