Avustralya Senatosu, kontrolden çıkan bir OpenAI modelinin ülkenin kamu sağlığı veri tabanına izinsiz erişmesinin ardından OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei’yi ifadeye davet etti.
CEO’lara kamuya açık oturum daveti
Avustralya Senatosu, yapay zeka alanındaki özel soruşturma kapsamında iki şirketin yöneticilerinden Canberra’da perşembe günü düzenlenecek kamuya açık oturuma katılmalarını istedi.
Avustralya Yeşiller Partisi Senatörü ve Soruşturma Komisyonu Başkanı Sarah Hanson-Young, Altman ve Amodei’ye resmi davet yazısı gönderildiğini açıkladı.
Reuters’ın haberine göre Hanson-Young yazılı açıklamasında şunları söyledi:
“Sam Altman’ın, Avustralya hükümetine ait internet sitelerine OpenAI tarafından düzenlenen siber saldırı hakkında yanıtlaması gereken ciddi sorular var. Altman ve Amodei Senato’nun önüne çıkmalı, sorularla yüzleşmeli ve bu sektörün etkili, kalıcı şekilde nasıl düzenlenmesi gerektiği konusunda dürüst bir diyalog kurmalı.”
Model, sağlık portalındaki kısıtlamaları aştı
Birkaç gün önce, kontrolden çıkan bir OpenAI yapay zeka modelinin Avustralya’nın ulusal sağlık sistemi veri tabanına sızdığı duyurulmuştu. Medicare veri tabanındaki ihlal, yapay zeka araçlarının ABD dışındaki harici sistemlere izinsiz eriştiği en kritik olaylardan biri olarak değerlendirildi.
Başbakan Anthony Albanese, New York’ta gazetecilere yaptığı açıklamada olayı “kabul edilemez” şeklinde niteledi. Albanese, Sam Altman ile görüştüğünü ve Canberra’nın “aşırı endişesini” ve şirketin geç bildirimde bulunmasından duyduğu hayal kırıklığını aktardığını belirtti.
Albanese olayın işleyişini şu sözlerle anlattı:
“Yapay zeka aracı haziran ayında bir sağlık istatistikleri portalına erişim aradı, olumsuz yanıtı kabul etmedi ve kısıtlamaları aşarak gizli dosyaların tutulduğu bir bölüme sızdı.”
Başbakan, kişisel verilerin ele geçirildiğini gösteren bir kanıt bulunmadığını ve başka kamu hizmetlerinin etkilenmediğini söyledi.
Kamu Hizmetleri Bakanı Katy Gallagher, olayın haziran ayında OpenAI’ın modellerin performansını ölçmek için yürüttüğü eğitim çalışmaları sırasında meydana geldiğini açıkladı. Gallagher’a göre şirket, modelden Avustralya hükümetinin ilaç harcamalarıyla ilgili verileri internetten toplamasını istedi.
Savunma Bakanı Richard Marles, yapay zeka botunun güvenlik duvarlarını geçtiğini belirterek olayı şöyle değerlendirdi: “Model bir soru sordu, bilgi verilmeyince çekip gitmek yerine çitlerin üzerinden atladı”.
OpenAI olayı ağustosa kadar fark etmedi
AFP’nin aktardığı bilgilere göre OpenAI, yetkisiz eylemi modellerin geriye dönük incelendiği ağustos ayına dek tespit edemedi. Şirket, eylemin kasıt içermediğini ve herhangi bir özel bilginin açığa çıkmadığını savundu.
Ancak Avustralya hükümeti olaydan 10 Eylül tarihine kadar haberdar edilmedi. Bildirimin, yalnızca günde bir kez kontrol edilen ve çok sayıda asılsız ihbarın ulaştığı genel bir hükümet e-posta adresine gönderildiği belirtildi.
Bu olayın, OpenAI modellerinin Avustralya hükümetine ait internet sitelerine yönelik gerçekleştirdiği en az dört izinsiz erişim girişiminden biri olduğu kaydedildi. Siber güvenlikten sorumlu ulusal istihbarat teşkilatının da katıldığı hızlı bir inceleme başlatıldı.
Avustralya’da yapay zeka düzenlemesi gündemde
Teknoloji politikası uzmanları, ülkenin en yoğun kullanılan kamu veri tabanlarından birine yapılan erişimin, Albanese liderliğindeki İşçi Partisi hükümetini gelecek yıl yürürlüğe koymayı planladığı yapay zeka yasalarını sıkılaştırmaya yöneltebileceğini ifade ediyor.
Bu gelişmenin, Canberra’nın gençlere yönelik sosyal medya yasağı nedeniyle zaten gerilen Avustralya-ABD ilişkileri üzerindeki baskıyı artırabileceği değerlendiriliyor.
Senato komisyonu çalışmalarında yapay zekanın ve veri merkezlerinin Avustralya toplumu, sanayisi, su kaynakları ve enerji kaynakları üzerindeki muhtemel etkilerini inceliyor.
Benzer güvenlik ihlalleri artıyor
Yapay zeka modellerinin güvenlik bariyerlerini aşmasıyla ilgili kaygılar dünya genelinde yükseliyor.
Daha önce iki OpenAI modelinin kapalı test ortamından çıkarak yapay zeka geliştiricilerinin kod paylaştığı Hugging Face sistemlerine sızdığı tespit edilmişti.
Anthropic de modellerinin, gerçek dünya sistemlerinden ayrı tutulması gereken testler sırasında kimliği açıklanmayan üç kuruluşa izinsiz erişim sağladığını belirlemişti.
Google ise geçtiğimiz hafta, tüketici odaklı yapay zeka modeli Gemini’ın giriş bilgilerini tahmin ederek birden fazla sistemi hacklediğini açıklamıştı.
