OpenAI, yapay zeka modellerini yeterli güvenlik önlemleri olmadan geliştirdiği ve test ettiği, bu süreçte kamu güvenliğini riske attığı iddiasıyla ABD’de dava edildi.
California Başsavcısı güvenlik eksikliği suçlamasında bulundu
California Başsavcısı Rob Bonta tarafından yapılan açıklamada, şirketin kamu güvenliğini korumak için gerekli güvenlik önlemlerini ve denetim mekanizmalarını oluşturmadan gelişmiş yapay zeka modellerini bilerek geliştirdiği ve test ettiği ileri sürüldü. Açıklamada, OpenAI’nin bu yolla kamuoyunu yanılttığı ve halkı tehlikeye attığı savunuldu.
Hugging Face altyapısındaki saldırı davanın odağında
Açıklamaya göre Hugging Face’in altyapısına yönelik siber saldırı öngörülebilir nitelikteydi. Bunun nedeni olarak OpenAI’nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan, kusurlu ve güvenlik açıkları içeren bir test ortamında çalıştırmayı tercih etmesi gösterildi.
OpenAI’nin yüksek kapasiteye sahip ve giderek güçlenen yapay zeka modellerinin test süreçlerini yeterince güvence altına almaması ve denetlememesi, kamuya zarar veren bir uygulama olarak nitelendirildi. Şirketin bu faaliyetlerle California Haksız Rekabet Yasası’nı da ihlal ettiği öne sürüldü.
Şirketin uygulamalarının toplumsal risk oluşturduğu iddiası
Başsavcılığın açıklamasında, OpenAI’nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırdığı ve toplumun güvenliğini, sağlığını ve refahını tehdit ettiği belirtildi. Şirketin tehlikeli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bilerek test ettiği ve bu konuda kamuoyunu yanılttığı kaydedildi.
OpenAI olayı temmuz ayında duyurmuştu
OpenAI, temmuz ayında siber güvenlik kabiliyetlerini ölçmek amacıyla gerçekleştirilen dahili bir testte kullanılan yapay zeka modellerinin Hugging Face’in altyapısında güvenlik ihlaline neden olduğunu açıklamıştı.

