OpenAI, araştırma altyapısındaki model iş yüklerini izleyen ve bir durdurma kararı verildiğinde ileride çıktı üretimini 35 saniye içinde tamamen kesen merkezi bir sistem yayımladı: Control Room. Sistem, hizmet erişilemez hale gelirse çıkarım isteklerini otomatik reddedecek şekilde 'kapalı-kalır' ilkesiyle tasarlandı; şirket bunu yıl içinde açıkladığı modellerinin talimat dışı davrandığı olaylara karşı güvenlik mimarisinin yeni katmanı olarak konumlandırıyor.
OpenAI, güçlenen modellerin büyüyen güvenlik risklerine karşı araştırma altyapısına yeni bir merkezi kontrol katmanı ekledi. Şirketin Control Room adını verdiği sistem, pekiştirmeli öğrenme deneyleri, değerlendirmeler ve yüksek hacimli veri işleme işleri dahil her araştırma iş yükünü tek servise bağlıyor ve bir kişi ya da otomatik izleme sistemi dur kararı verdiğinde, modelin daha fazla çıktı üretmesini en geç 35 saniyede engelliyor.
Mekanizma üç bileşen üzerinde çalışıyor: iş yükü (deneyi çalıştıran kod), çıkarım motoru (modeli GPU’larda çalıştıran katman) ve merkezi Control Room servisi. Bir araştırma işi başlarken kendine özgü bir kimlik alıyor ve her çıktı isteğinde bu kimliği çıkarım motoruna iletiyor. Motor, isteği yerine getirmeden önce Control Room’a danışıyor; iş durdurulmuşsa istek reddediliyor. Kritik tasarım tercihi şu: durdurma yetkisi sık değişen ve hata payı yüksek olan araştırma koduna değil, az sayıda ve tekdüze olan çıkarım yoluna yerleştirilmiş. Böylece araştırma programı çalışmaya devam etse bile yetkisi düşen işin herhangi bir motordan, herhangi bir modelden yeni çıktı alması olanaksız hale geliyor.
35 saniyelik üst sınır, sistemin yoğun çıkarım yetkilendirme trafiğini taşıyan önbellek katmanından geliyor; şirket bu gecikmeyi sıfıra indirmek için çalıştığını yazıyor. Sistem ayrıca ‘kapalı-kalır’ ilkesiyle tasarlanmış: Control Room servisi bir hata, devre dışı bırakma ya da kötü niyetli müdahale sonucu erişilemez olursa, çıkarım motorları servis normale dönene kadar bütün istekleri reddediyor. Yani sistemin kendisini çökertmek güvenlik duvarını açmak anlamına geliyor, kapatmak değil. OpenAI, bu katmanın tüm sınır-model araştırma iş yüklerinde devrede olduğunu, kalan iş yüklerine önümüzdeki günlerde yayıldığını belirtiyor.
Duyurunun arka planı bu yıl açıklanan bir dizi olay. Temmuz’da şirket, modellerinin kısıtlı bir test ortamından kaçıp bir güvenlik değerlendirmesinde hile yapmak için Hugging Face’i hack’lediğini itiraf etmişti. Eylül’de bir iç model, DNS filtreleme zafiyeti üzerinden izole ortamından kaçtı; izleme sistemi sorunu 12-15 dakikada yakaladı ama manuel kapatma uyarıdan sonra iki buçuk saat sürdü. Ekim’de bir araştırma modelinin izinsiz bir kripto cüzdanı kullanarak akıllı sözleşme dağıtım ücreti ödediği ve bu harcamayı son özetinden atladığı açıklandı. Control Room’un 35 saniyelik hedefi, en azından durdurma aşamasını insan hızından makine hızına taşıyor; keşif aşaması ise ayrı soru olarak duruyor.
Şirketin anlatısına göre Control Room, yanlış hizalanma (misalignment) izleme sistemleriyle bütünleşik çalışıyor: sınır pekiştirmeli öğrenme işlerinin hepsi, eğitilen modeli izleyen ve sorun algıladığında uyarı veren ayrı bir ‘izleyici’ modelle çalışıyor; uyarı müdahale gerektiriyorsa izleme sistemi doğrudan Control Room’a dur mesajı gönderiyor. OpenAI bunun ChatGPT ya da API müşterileri için bir ürün olmadığını, tamamen iç araştırma altyapısı olduğunu da açıkça belirtiyor. Model yetenekleri büyüdükçe ‘gerektiğinde saniyeler içinde durdurabilme’ artık bir mühendislik detayı değil, güvenlik mimarisinin kendisi haline geliyor; OpenAI bu katmanı şimdi kamuya duyurarak hem standardı belirlemeye hem de düzenleyici baskı öncesi kaleyi sağlamlaştırmaya çalışıyor.