Yapay zeka protein ve DNA tasarlayabiliyor — biyogüvenlik riskleri

Yapay zeka protein ve DNA tasarlayabiliyor; bu yetenek biyoloji alanında yeni fırsatlar sunuyor ama aynı zamanda biyogüvenlik risklerini de artırıyor.

Üretken yapay zeka yalnızca sohbet botlarının ötesine geçmiş durumda ve DNA, RNA ile protein gibi temel yapıları sıfırdan tasarlayabiliyor. Bu, yeni tedaviler geliştirme şansını yükseltirken kötüye kullanım ihtimalini de gündeme getiriyor.

2024’te yayımlanan bir makalede David Baker ve George Church gibi isimler, yapay zeka ile tasarlanan her proteine bir tür “barkod” yerleştirilmesini önerdi. Ama araştırmalar bunun tek başına yeterli olmadığını gösteriyor.

Microsoft’un çalışması, yapay zekanın ürettiği genetik dizilerin DNA sentezleyen firmaların güvenlik taramalarını sıklıkla aşabildiğini ortaya koydu. Yani “yabancı” diziler mevcut filtreleri kandırabiliyor ve potansiyel tehlikeler radardan kaçabiliyor.

Üretken modeller artık hücre ve doku düzeyinde tasarımlar yapabiliyor; RFdiffusion2 ve PocketGen gibi modeller atomik hassasiyetle proteinler tasarlayabiliyor. RNA terapileri kalıcılık riski düşük olduğu için umut vaat ediyor, ancak RNA’nın karmaşık üç boyutlu yapısı tasarımı zorlaştırıyordu ve yapay zeka bu zorluğu aşmada etkili olabilir.

Ancak aynı araçlar kötü niyetli kullanım için de uygundur. SingularityHub’da bildirilen deneylerde, toksik protein veri setleriyle test edilen modeller hem zehirli özellikleri koruyan hem de güvenlik yazılımlarını aşabilen yeni proteinler üretebildi.

SafeProtein yöntemiyle yapılan bir çalışmada ileri düzey tasarım modellerinin güvenlik sınırlarını yüzde 70 oranında aşabildiği gösterildi. GeneBreaker çerçevesiyle dikkatlice hazırlanmış komutların yapay zekadan HIV benzeri dizilere yakın çıktılar aldığı raporlandı. İlaç keşfi için geliştirilen bazı modellerin bilinen toksinleri “potansiyel aday” olarak önermesi de kaydedildi.

Uzmanlar, tek bir çözüm olmadığını; biyolojide üretken yapay zekanın güvenli hale getirilmesi için çok katmanlı bir savunma sistemi gerektiğini söylüyor. Birleşik Krallık müşteri doğrulaması ve daha sıkı tarama çağrısı yapan rehberler yayımladı, ABD ise biyogüvenliği Yapay Zeka Eylem Planı’na dahil etti.

Büyük teknoloji şirketleri bazı tehlikeli viral dizileri eğitim verilerinden çıkarmayı veya yeni tasarımlar için sıkı tarama sistemleri kurmayı taahhüt etti. Ancak bazı uzmanlar bu önlemlerin parçalı ve yetersiz kalabileceği uyarısında bulunuyor.

Sonuç olarak, yapay zekanın biyolojiye getirdiği olanaklar önemli olsa da, aynı zamanda kapsamlı düzenleme ve çok katmanlı güvenlik önlemleri gerektiriyor.