Microsoft, AI ve Biyogüvenlik Alanında Tarihin İlk Zero Day Olayını Açıkladı
Yapay zekanın biyolojik silah tasarımını kolaylaştırabileceğine dair çarpıcı bir çalışma, Microsoft tarafından kamuoyuyla paylaşıldı. Ekim 2023’te iki Microsoft araştırmacısı, kötü niyetli kişilerin yapay zeka araçlarıyla tehlikeli proteinler üretmesini önlemeyi amaçlayan güvenlik sistemlerinde şaşırtıcı bir güvenlik açığı keşfetti.
Bu açıklar ve keşif süreci geçtiğimiz Perşembe gününe kadar gizli tutuldu. Bu sır perdesi, araştırmacıların 72 farklı toksinin yapay zeka destekli binlerce yeni versiyonunu, güvenlik sistemlerine yakalanmayacak şekilde nasıl geliştirdiğini göstermesiyle kalktı. İlgili rapor Science dergisinde yayımlandı.
Microsoft’un öncülüğündeki ekip, dört farklı tarama yönteminde tespit edilen bu açığı gidermek için bir güvenlik yaması tasarladı. Ancak uzmanlar, benzer güvenlik boşluklarının gelecekte de ortaya çıkabileceği konusunda uyarıda bulunuyor.
Microsoft’un baş bilim sorumlusu Eric Horvitz, çalışmayı anlatırken, “Bu, gezegen için bir Windows güncellemesi modeli gibi. Gerekli olduğunda yamalar göndermeye devam edeceğiz ve ileriye dönük en iyi uygulamaları belirleyerek süreci sürekli takip edeceğiz” dedi. Ekip bu olayı, yazılım dünyasında geliştiricilerin farkında olmadığı ve saldırılara açık bırakan güvenlik boşluklarını tanımlamak için kullanılan “zero day” teriminden ödünç alarak AI ve biyogüvenlik alanında ilk “zero day” olayı olarak nitelendirdi.
Proteinler, yaşamın yapı taşları olarak hücrelerde hayati işlevler görüyor. Bu proteinler harf dizisi şeklinde yazılabilse de üç boyutlu katlanma biçimleri işlevlerini belirliyor. Geçen yılın Nobel Kimya Ödülü sahipleri, bilim insanlarının protein yapısını tahmin edebilmesini ve AI kullanarak farklı şekil ve işlevlere sahip proteinler tasarlamasını sağlayan çalışmalarıyla ödüllendirildi.
Son yıllarda araştırmacılar, yapay zekayı kullanarak özel proteinler tasarlamaya başladı. Bu araçlar, plastik kirliliğini parçalamaktan hastalıklarla mücadeleye, tarım ürünlerini daha dayanıklı hale getirmeye kadar bilimsel birçok alanda büyük potansiyel sunuyor. Ancak bu potansiyelin farklı bir yüzü de var. Bu sistemler kötücül amaçlar için de kullanılabilir. Bu nedenle Microsoft ekibi da yapay zekayı kullanarak tespit sistemlerinden kaçabilen proteinler üretmeye çalıştı. Ancak proteinler gerçekten fiziksel olarak üretilmedi.
Araştırmacılar, iki büyük şirketin tarama yöntemlerini test ettiğinde AI ile üretilmiş risine benzer proteinlerin tespit edilemediğini gördü. Çünkü bu yeni proteinler artık orijinal risine benzemiyordu. Oysa proteinin işlevi aynıydı. Bu güvenlik açığı ortaya çıkınca ekip, işbirlikçilerini genişletti ve araştırmayı onlarca toksin ve virüs bileşenine uyguladı. Mevcut tarama programları orijinal toksinleri ayıklamada başarılı olsa da, bu yeni versiyonların binlercesi tespit edilmeden geçti.
Uzmanlar, çözüm yollarından birinin AI yazılımına daha laboratuvara gelmeden önleyici güvenlik önlemleri entegre edilmesi olduğunu belirtiyor. Bazı uzmanlar içinse en net çözüm, DNA sentez kayıt sistemi kurmak.
