Tencent'in baş yapay zekâ bilim insanı Yao Shunyu, Hong Kong'ta bir bilim sempozyumunda modellerin siber güvenlikte ulaştığı zarar eşiğine biyolojide de yaklaştığını ve sektörün buna hazır olmadığını söyledi. Geçen yıl OpenAI'dan Tencent'e geçen 29 yaşındaki Yao, açık ağırlık yayımlayan Çinli laboratuvarlarının güvenliği öncelik yapması çağrısı yaptı; Tencent, 4 Kasım'da çıkardığı Hy4 modelinin ağırlıklarını siber ve biyolojik değerlendirmeleri kapsayan sistem kartıyla birlikte 'gelecek günlerde' yayımlamayı planlıyor.
Çin’in en büyük teknoloji şirketlerinden birinin en üst düzey yapay zekâ ismi, alışılmadık ölçüde net bir güvenlik uyarısı verdi. Tencent’in baş yapay zekâ bilim insanı Yao Shunyu, Cumartesi günü Hong Kong Bilim Akademisi ile Gelecek Bilim Ödülü’nün ortaklaşa düzenlediği sempozyumda, yapay zekâ modellerinin siber güvenlikte çoktan ulaşmış olduğu ‘gerçekten zarar yapmak mümkün’ eşiğine biyoloji alanında da yaklaştığını söyledi. Güney Çin Morning Post’un aktardığı konuşmaya göre 29 yaşındaki Yao, endüstrinin buna hazır olmadığını belirtti.
Yao’nun kariyeri uyarının ağırlığını artırıyor: OpenAI’de Operator ve Deep Research projelerinde çalışan araştırmacı, geçen yıl Tencent’e geçti ve şimdi şirketin yapay zekâ araştırmalarını yönetiyor. Argümanı sıralı ilerliyor: önce siber yetenekler, sonra biyoloji. Ona göre biyoloji, siber güvenlikten daha zor bir problem — siber dünyada saldırı ve savunma görece ayrıştırılabilirken, biyolojik etkenler kendi kendine çoğalabiliyor ve dijital kontrolün ötesine yayılabiliyor. Bu yüzden bir model yayımlanmadan önce biyolojik yeteneklerinin dikkatle değerlendirilmesini istiyor ve açık ağırlık yayımlayan Çinli şirketlerin güvenliği öncelik yapması çağrısı yapıyor.
Konuşma, Tencent’in 4 Kasım’da çıkardığı yeni amiral modeli Hy4’ün gölgesinde yapıldı — değerlendirme şirketi Artificial Analysis, Hy4’ü Çin’de üretilen en iyi ikinci model sıralıyor. Şirketin siber risk yaklaşımı bir ön pencere sunuyor: Hy4’ün eğitim verisinden yazılım açıklarını istismar etmeye yönelik materyal çıkarıldı, yerini savunma odaklı güvenlik verisi aldı — amaç saldırgan hacker yeteneğini söküp savunucu tarafı korumak. Biyolojide şirket, Hy4’ün bu yeteneğinin yüksek risk eşiğinin ‘çok altında’ olduğunu, modelin hâlâ ders kitabı bilgisini uygulanabilir bir protokole çeviremediğini savunuyor; iç uzman incelemeleri güçlü temel biyoloji bilgisi ama deney tasarlama da zayıflık bildiriyor. Bunlar şirketin kendi değerlendirmeleri — ayrıntılı analizlerin yeri, söz verilen sistem kartı.
Yao açık-kapalı tartışmasında da taraf olmadı. Anthropic gibi Amerikan şirketlerinin en güçlü modelleri kapalı tutma konusunda ‘güçlü bir argümanı’ olduğunu kabul etti; ama karma bir yaklaşımın pratikte daha iyi işleyebileceğini savundu — gerekçesi somut bir vaka: kapalı Amerikan modelleri koruma gerekçesiyle bir siber güvenlik görevini reddettiğinde, Hugging Face’in Çin yapımı açık bir modele yönelip görevi yaptırabildiği bir vaka yaşanmıştı. Yao’ya göre açık modeller savunan tarafın da elini güçlendirebiliyor. Tencent, Huawei ve Alibaba ayrıca Wuzhen zirvesinde sunulan ve patojen tasarımını büyük halk sağlığı riski yaratabilecek bir yetenek olarak adlandıran sınır yapay zekâ güvenlik raporuna katkı verdi.
Pratik takvim de net: Tencent, Hy4’ün ağırlıklarını siber ve biyolojik değerlendirmeleri kapsayan sistem kartıyla birlikte ‘gelecek günlerde’ yayımlayacak. Bu, dış araştırmacıların modelin yeteneklerini denetleyebilmesi anlamına geliyor — Yao’nun deyimiyle değerlendirme süreci henüz tamamlanmadı. Modellerin zarar eşiğine yaklaşırken açık ağırlık, sistem kartı ve kırmızı ekip testlerinin birlikte yürütülmesi, Çin laboratuvarlarının denediği orta yol olarak duruyor; Yao’nun uyarısı bu yolun ne kadar dar olduğunun da itirafı.