Meta’nın yapay zeka asistanı Muse, Toronto’da yaşayan teknoloji içerik üreticisi Matt Robb adına Facebook Marketplace’te pazarlık yaptı, ev adresini paylaştı ve Robb’un bilgisi olmadan alıcıyla buluşma ayarladı.
Alıcı ailesiyle adrese gitti
Robb, Marketplace’teki satış mesajlarını yönetmesi için Meta’nın yeni yapay zeka asistanı Muse’u kullanmaya başladı. Olay, cumartesi günü Usman adlı bir kullanıcının satışa çıkarılan klavyenin hala mevcut olup olmadığını sormasıyla başladı. Robb’un hesabından kısa süre içinde ”Evet, hala satılık!” yanıtı gönderildi.
Fiyat üzerinde anlaşılmasının ardından Muse, Robb’un hesabından Toronto’daki bir adresi paylaştı. Usman birkaç saat sonra eşi ve kızıyla birlikte apartmanın önüne geldi ve ulaştığını bildirdi. Bunun üzerine ”Evet, buradayım.” yanıtını aldı. Ancak Robb evde değildi ve binadan kimse çıkmadı.
Usman, apartman girişinin fotoğrafını göndererek dışarıda beklediğini belirtti. Yaklaşık 20 dakika boyunca kimseyle görüşemeyince alışverişten vazgeçip ayrıldı. Bir saat sonra Robb’un hesabından, bir iş çıktığı için buluşmanın kaçırıldığı yönünde özür mesajı geldi.
Robb yazışmalardan habersizdi
Usman, gün boyunca Robb’la hiç konuşmamıştı. Yanıtları veren, pazarlık eden ve adresi gönderen Muse’du. Robb, klavye için anlaşma yapıldığını ya da alıcının apartmanının önünde beklediğini bilmiyordu.
Usman da The Guardian’a yaptığı açıklamada, tüm yazışma boyunca doğrudan Robb’la konuştuğunu düşündüğünü söyledi. Robb’un gerçek anlamda gönderdiği ilk mesaj, olaydan yaklaşık 24 saat sonra ulaştı. Yaşananları öğrenen Robb, Meta’nın yeni yapay zekasını etkinleştirdiğini, asistanın adresini kendisine sormadan paylaştığını ve buluşma ayarladığını belirterek özür diledi.
Muse’un izin sistemi tartışma yarattı
Meta’nın kişisel asistan olarak tanıttığı ve kısmen bağımsız hareket edebilen Muse, ABD’de 22 Eylül’de kullanıma sunuldu ve 3 milyon kez indirildi.
Robb, Muse’un Marketplace ilanlarını otomatik biçimde yönetebildiğini gördükten sonra özelliği denemeye karar verdi. Ürün teslim alınacağı için adresini sisteme girdiğini, fakat bu adresin potansiyel alıcılara gönderilmesi için ayrıca onay vermediğini söyledi.
Asistanın kendisine danışmadan pazarlık yaptığını ve düşük fiyat tekliflerini kabul ettiğini belirten Robb, satış veya buluşma hakkında herhangi bir bildirim almadığını da ifade etti.
Robb’un yazışma ekran görüntülerini Threads’te paylaşmasının ardından Meta Superintelligence Labs yöneticisi David Singleton, Robb’la iletişime geçtiğini açıkladı. Singleton, benzer bildirimleri incelediklerinde Muse’un doğrudan verilen talimatları izlediğini ve gerekli izinleri talep ettiğini gördüklerini belirtti.
Görüşmenin ardından Robb, Marketplace mesajlarını Muse’un yönetmesine izin verdiğinde karşısına ‘Bir kez izin ver’ ve ‘Her zaman izin ver’ seçeneklerinin çıktığını anlattı. İkinci seçeneği işaretleyen Robb, teklifleri kabul etmeden önce asistanın yine kendisinden onay isteyeceğini düşündüğünü söyledi. Ancak bu tercih, Muse’un sağlanan bilgileri kullanarak sonraki mesajlara Robb adına yanıt vermesine olanak tanıyordu.
Robb, bu ayrıntının kolayca gözden kaçabildiğini Meta’ya ilettiğini ve şirketin izinleri daha anlaşılır biçimde sunacağını söylediğini aktardı.
Muse tarafından Robb’a gönderilen açıklamada ise teslimat adresinin verilmesiyle otomatik yanıt izninin, adresi alıcılara gönderme yetkisi şeklinde yanlış yorumlandığı belirtildi.
“Adres paylaşmayı sürdürdü”
Robb, olaydan sonra Muse’a adresini paylaşmayı bırakmasını söyledi. Ardından birkaç arkadaşından, asistanın bu talimata uyup uymadığını test etmelerini istedi. Robb’un aktardığına göre Muse, buna rağmen adresini beş kişiye gönderdi.
Asistanın davranışı adres paylaşımıyla sınırlı kalmadı. Robb evde olmadığı halde alıcıya evde olduğunu söyledi; buluşma gerçekleşmeyince de yoğun olduğu için gelemediğine dair bir gerekçe uydurdu.
Robb, Meta’nın Marketplace, Messenger ve Muse’un sahibi olması nedeniyle karşı tarafa mesajların yapay zeka tarafından gönderildiğinin açıkça gösterileceğini düşündüğünü anlattı.
Şirketin diğer ürünü Meta AI’da kullanıcıların bir sohbet robotuyla konuştuğunun belli olduğunu belirten Robb, Muse için şu değerlendirmeyi yaptı:
“Ancak Muse başka bir şey yapıyor. Neredeyse beni taklit ediyor.”
