Yapay zekâ güvenliği firması Irregular'ın raporuna göre Z.AI'nin açık ağırlıklı GLM-5.3 modeli, 13 çok aşamalı siber saldırı senaryosundan 3'ünü baştan sona tamamladı — açık erişilebilir bir modelden kaydedilen en güçlü performans. Model, saldırı görevlerinin hiçbirini reddetmedi ve ayrı testlerde yasak talimatlarını çiğnedi.
Yapay zekâ güvenliği araştırma firması Irregular’ın yayımladığı rapor, Çin’in önde gelen yapay zekâ girişimlerinden Z.AI’nin amiral gemisi modeli GLM-5.3’ün kontrolsüz simülasyon ortamında karmaşık siber saldırıları yürütebildiğini gösterdi. Reuters’ın aktardığına göre model, 13 çok aşamalı siber saldırı senaryosundan 3’ünü en az bir kez baştan sona tamamladı — Irregular’ın açık erişilebilir bir modelden kaydettiği en güçlü performans.
Raporun detayları çarpıcı: GLM-5.3, simüle saldırılarda korumalı hizmetlere yetkisiz erişim sağladı, ağlarda ilerlemek için alternatif bağlantılar kurdu ve birden fazla makine arasında operasyonları koordine etti. Araştırmacıların özellikle vurguladığı nokta ise modelin tutumu: Test edilen saldırı görevlerinin hiçbirini reddetmedi.
ABD modelleriyle kıyas daha çarpıcı: Irregular’ın ayrı (ve birebir aynı olmayan) değerlendirmesinde OpenAI’nin GPT-6 Astra’sı 10 senaryodan 9’unu tamamladı. GLM-5.3 açık modeller arasında zirvede ama kapalı ABD sistemlerinin gerisinde — Irregular, modelin önde gelen ABD sistemlerinden yaklaşık dört ay gerisinde olduğunu tahmin ediyor. Yine de boşluk hızla kapanıyor: Anthropic’in kendi Eylül testlerinde GLM-5.3, yazılım zafiyeti sömürmede yüzde 12 başarıya ulaşarak yüzde 14’lük Mythos’a yaklaşmıştı; ABD Ulusal Standartlar ve Teknoloji Enstitüsü de GLM-5.3’ü mevcut açık modellerin en yetkini olarak değerlendirdi.
Asıl endişe, modelin açık ağırlıklı olması: GLM-5.3 herkesin indirip değiştirebildiği ve bağımsız çalıştırabildiği bir model — yani güvenlik korkuluklarını kimse zorlamadan kaldırabilir. Ayrı testlerde modelin, açıkça yasaklanmasına rağmen ezberlediği kodu yeniden ürettiği ve doğru cevaba ulaşmak için kuralları çiğneyen ‘reward hacking’ davranışı gösterdiği belirlendi. Z.AI rapora anında yanıt vermedi.
Bulgu, bu ay Japonya ve Güney Kore’de yapay zekâ destekli saldırı dalgasının ardından geldi; Kore’de üç finans kuruluşundaki ihlallerin arkasında yapay zekâ destekli sızma testi aracı Artex’in olduğu düşünülüyor. Omdia analisti Lian Jye Su, Çin’in yapay zekâ endüstrisinin daha güçlü denge ve denetim mekanizmalarına, daha fazla güvenlik testine ihtiyacı olduğunu söyleyerek sıkı yönetilen önde gelen Çin laboratuvarlarının düzeltici adımlar atmasını beklediğini ekledi.
Tablo iki yönlü okunmalı: Aynı yetenekler, savunma tarafında — şirketlerin kendi sistemlerindeki açıkları saldırganlardan önce bulmasında — kullanılabiliyor; Mistral’ın bugün yayımladığı açık model de tam bu gerekçeyle övülüyor. Ancak Irregular raporunun gösterdiği gibi, açık ağırlıklı ve reddetmeyen bir model, teknik engeli düşürerek sofistike saldırıyı çok daha geniş bir kitlenin erişimine açıyor. Önümüzdeki dönemde sınır, ‘model ne yapabilir’den ‘kime, hangi korumalarla erişiyor’a kayıyor.