deniz.tv
17 Kasım 2026, Salı --:--:-- · İstanbul Canlı Akış
USD/TRY … EUR/TRY … GBP/TRY … BTC … GRAM ALTIN … FAİZ …
Son Dakika
Teknoloji

OpenAI dört bağımsız denetçiyi ‘içeri’ aldı: Apollo, METR, Transluce ve Goodfire’a derin erişim

OpenAI, 'gömülü değerlendirmeler' programının ilk aşaması için dört bağımsız kuruluşla anlaştığını duyurdu: Apollo Research, METR, Transluce ve Goodfire, model denetim noktalarından kaynak koduna, eğitim verisinden izleme sistemlerine uzanan derin erişimle OpenAI'nin İÇ sistemlerini uzun süreli inceleyecek. Apollo modellerin geliştiricilerine gizlice karşı çalışıp çalışmadığını, METR bugüne kadarki en büyük pekiştirmeli öğrenme koşusundaki hizalanma hatalarını, Transluce eğitim-sonrası hizalama testlerinin kapsamını, Goodfire da yorumlanabilirlik araçlarıyla model iç yapısını araştıracak. Uzmanlar bulgularını yayımlayabilecek; anlaşmazlıklar şirketin yönetim kurulu bünyesindeki Güvenlik ve Güvenlik Komitesi'ne taşınabilecek.

deniz.tv

Yapay zekâ güvenliğinde yeni bir denetim modeli denemesi başlıyor: OpenAI, dört bağımsız değerlendiriciyle — Apollo Research, METR, Transluce ve Goodfire — ‘gömülü değerlendirme’ (embedded assessment) anlaşmaları imzaladığını duyurdu. Kavramın özü, yayımlanmış bir modelin ÇIKTILARINI test etmek yerine, uzmanlara laboratuvarın İÇ dünyasına uzun süreli ve derin erişim vermek: kapsama göre değerlendiriciler model denetim noktalarına, kaynak koda, eğitim ve değerlendirme verisine, izleme sistemlerine, teknik dokümantasyona ve bu işlerden sorumlu araştırmacı-mühendislerle görüşmelere ulaşabiliyor. OpenAI’ye göre bu erişim, şirketin öngörmediği başarısızlıkları ortaya çıkarabilecek bağımsız incelemelere zemin hazırlıyor; program, ön-eğitim ve iç kullanım aşamasındaki modellerin hizalanması ve güvenlik önlemlerinin etkinliğine odaklanıyor ve şirketin ‘güvenlik gerekçeleri’ (safety cases) çalışmasını tamamlıyor.

Dört kuruluşun görev dağılımı duyuruda somut: APOLLO Research, modellerin geliştiricilerinin niyetlerine GİZLİCE karşı çalışıp çalışmadığını ve OpenAI’nin güvenlik önlemlerinin böyle bir davranışı yakalayıp yakalamayacağını sınayacak — iki aşamada dört önerme: eğitimin sabotajı teşvik etmediği; güçlü değerlendirme ve kırmızı-takım çalışmalarının sabotajı ortaya çıkarmadığı; modellerin iç kullanımda sabotaj denemediği; sabotaj gerekçesinin saptanabilir olduğu. METR, OpenAI’nin bugüne kadarki EN BÜYÜK pekiştirmeli öğrenme koşusunda mevcut testlerin ve izleyicilerin atladığı hatalı-hizalanma davranışlarını araştıracak (ikinci, daha geniş bir izleyici değerlendirmesi için ön anlaşma var). TRANSLUCE eğitim-sonrası hizalama değerlendirmelerinin niteliğini ve kapsamını inceleyecek; 2027 başında yaklaşık sekiz haftalık bir izleme değerlendirmesi niyeti de beyan edildi. GOODFIRE ise yorumlanabilirlik araştırmacılarını ‘gömerek’ modelin iç yapısını inceleyecek — odak, eğitim koşusu izleme, hata ayıklama ve hizalama; bulgularını sürecin içinde yayımlaması öngörülüyor.

Programın işlem kuralları da açıkça yazıldı ve burası en hassas nokta: gizli-gizemli bilgiye ihtiyaç duyan değerlendiriciler OpenAI ofislerinde, OpenAI cihazlarında çalışacak; bulgularını YAYIMLAYABİLECEKLER ama OpenAI gizli ayrıntıları karartma ve sorumlu ifşa gerekçesiyle gecikme isteme hakkını saklı tutuyor — yalnızca ‘aleyhte olduğu için’ malzeme saklanmayacağı taahhüt edildi. Uzlaşmaz anlaşmazlıklar önce şirketin Güvenlik Danışma Grubu ve yöneticilerine, oradan çözülmezse yönetim kurulu bünyesindeki bağımsız gözetim organı Güvenlik ve Güvenlik Komitesi’ne taşınacak; komite karartılmamış raporları alıp değerlendiricilerle özel görüşebilecek. Bağımsızlık sorusuna dair önemli ayrıntı: Apollo ve Goodfire sonuçlarından BAĞIMSIZ bir ücret kabul ediyor; METR ve Transluce ücret ALMIYOR (yalnızca işlem gücü veya API kredisi alabilirler).

Bu adım boşlukta değil: program, METR’in Ekim’deki iç izleme pilotuyla ve Ağustos’taki Hugging Face olayı soruşturmasından gelen dersler üzerine kurulu; OpenAI ayrıca Beyaz Saray Süper Zekâ Uzlaşısı kapsamındaki bağımsız değerlendirme taahhütlerine atıf yapıyor. Şirket kendi de belirtiyor: gömülü değerlendirmelerin normları henüz standartlaşmamış; teknik erişim sorunları, mekân kısıtları ve gelişen güvenlik protokolleri gibi başlangıç güçlükleri bekleniyor. İleride güvenlik çerçevelerine uyumun ve örgüt kültürünün de gömülü değerlendirme konusu olabileceği ifade edildi. İzlenecek kapılar: dört değerlendirmenin ilk bulguları ve yayım kararları, karartma-gecikme hakkının fiilen kullanımı, Komite’ye taşınan anlaşmazlıklar ve bu modelin diğer laboratuvarlara yayılıp yayılmayacağı.