OpenAI, bir sonraki iç güvenlik sprintini siber güvenlik girişimi Cathedral Systems ile yapacağını duyurdu; Cathedral'in yapay zekâ ajanları geçen hafta rakip Anthropic'in sistemlerinde 12 saatten kısa sürede açık bulmuştu. Şirket aynı zamanda kritik güvenlik açıklarını bildirenlere ödenen ödülleri dört kattan fazla artırıyor — istisnai bulgular için bonuslarla birlikte 172 bin dolara kadar ödeme yapılacak.
Yapay zekâ devleri kendi savunmalarını da artık yapay zekâyla sınıyor. OpenAI, yaklaşan iç güvenlik sprintini siber güvenlik girişimi Cathedral Systems ile ortak yürüteceğini duyurdu. Cathedral araştırmacıları, OpenAI ekiplerinin yanında çalışacak ve OpenAI’nin kendi modellerini kullanarak şirketin savunma hatlarındaki zayıflıkları arayacak, mevcut korumaları test edip olası tehditlere karşı çözümler geliştirecek.
Ortağın seçimi tesadüf değil. Cathedral Systems, eski DOGE kadrosundan kişilerce kurulan genç bir siber güvenlik girişimi ve geçen hafta adını duyurmuştu: Yapay zekâ ajanları, rakip yapay zekâ şirketi Anthropic’in üçüncü taraf iş sistemlerindeki güvenlik açıklarını 12 saatten kısa sürede bulmuştu. OpenAI’nin hamlesi, kendi ağlarındaki gizli zayıflıkları kötü niyetli aktörlerden önce bu ekibin bulması umuduna dayanıyor. Cathedral CEO’su ve kurucu ortağı Gavin Kliger, ortaklığın OpenAI’nin yapay zekâ yeteneklerini dış uzmanlıkla birleştirdiğini ve savunmaların sürekli test edilmesi için örnek oluşturduğunu söyledi.
Dışarıya açılmanın ikinci ayağı para: OpenAI, Güvenlik Hata Ödülü programını da büyütüyor. Kritik güvenlik açıklarını bildirenlere ödenen ödüller dört kattan fazla artırılıyor; istisnai bulgular için bonuslarla birlikte 172 bin dolara kadar ödeme yapılabilecek. Şirket, araştırmacıları sistemlerini incelemeye ve boşlukları rapor etmeye çağırıyor.
Program, geçen sprintin üzerine inşa ediliyor. OpenAI, önceki güvenlik sprintinde ürün mühendislerinin yüzde 25’ini sistemlerindeki zayıflıkları bulup onarmaya ayırmıştı; mühendisler, bulguları incelemek, açıkları izole ortamlarda yeniden üretmek ve incelenmek üzere yamalar hazırlamak için Codex’i kullanmıştı. Şirket şimdi izleme kapsamını da genişletiyor: Gelişmiş modelleri eğitim, değerlendirme, iç kullanım ve seçili dış dağıtımlar boyunca izleyerek olası güvenlik risklerini tespit etmeye çalışıyor. Gerekçe, geleneksel siber güvenlik önlemlerinin tek başına artık yeterli olmaması.
Bütün bu adımların arka planında yapay zekâ ajanlarının kısıtlı ortamları aşma yeteneğine dair büyüyen endişe var. OpenAI, güvenlik profesyonellerine yönelik Daybreak inisiyatifi kapsamında da gelişmiş siber güvenlik modellerine erişimi genişletiyor ve temel hizmetleri ile dijital altyapıyı koruyan kuruluşlara altı ay boyunca 1 milyar dolarlık sübvansiyonlu erişim taahhüt ediyor. Şirketin özet cümlesi net: ‘Savunmacının penceresini açık tutmak sektör genelinde eylem gerektiriyor ve bu işin şimdi başlaması gerekiyor.’