deniz.tv
21 Kasım 2026, Cumartesi --:--:-- · İstanbul Canlı Akış
USD/TRY … EUR/TRY … GBP/TRY … BTC … GRAM ALTIN … FAİZ …
Son Dakika
Teknoloji

OpenAI model hırsızlığına sayılarla cevap veriyor: gizli akıl-yürütme çıkarma saldırıları yüzde 54’ten yüzde 0,2’ye düştü

OpenAI, 'karşıt-damıtmayla mücadele' başlıklı yeni gönderisinde, modellerinin KORUMALI AKIL-YÜRÜTME izlerini (yanıt üretilirken içsel oluşan ara-düşünce adımları) çalmaya çalışan saldırılara karşı GPT-6.2 Astra ve Sol'da güçlendirdiği savunmaların ilk sayılarını paylaştı: şirket-içi UYARLAYICI kırmızı-takım değerlendirmesinde, daha önceki bir istem için üretilmiş akıl-yürütme ERİŞİM SALDIRILARININ ortalama başarı oranı, özgün korumalı GPT-6 Astra'da YÜZDE 54,0 iken güncellenmiş korumalı GPT-6.2 Astra'da YÜZDE 0,2'ye düştü; geçerli istemin akıl-yürütmesi için oran yüzde 22,9'dan yüzde 0,9'a indi. Savunma iki katmanlı: istem-düzeyinde model eğitimi + giriş/çıktı sınıflandırıcıları + API kısıtları; kampanya-düzeyinde çok-hesaplı eş-güdümlü damıtma örüntülerinin tespiti. Dürüst not: karşılaştırma hem FARKLI MODEL hem FARKLI KORUMA çifti üzerinden — yani düşüşün ne kadarı mimari, ne kadarı kalkan belirsiz.

deniz.tv

Frontier model işletmelerinin yeni ‘fikri-mülkiyet güvenliği’ cephesi sayılarla belgelendi: OpenAI, ‘karşıt-damıtmayla mücadele’ başlıklı gönderisinde (20 Kasım), modellerinden yetkisiz veri çekip rakip model eğitmeye — buna KARŞIT DAMITMA diyor — yönelik saldırılara karşı yürüttüğü savunmaların ayrıntısını verdi. Hedeflerin en değerlisi KORUMALI AKIL-YÜRÜTME: model bir yanıta ulaşırken içsel olarak ürettiği ara adımlar (düşünme-zinciri). Bu izler, nihai yanıtta görünmeyen bilgi taşıdığı için bir BAŞKA MODELİ EĞİTMEK için özellikle değerli hammadde — ve tam da bu yüzden saldırıların birincil hedefi.

SAYILAR OpenAI’nin şirket-içi UYARLAYICI değerlendirmesinden: güçlü OTOMATİK kırmızı-takım ajanları (altı saldırgan-modelin ortalaması; saldırılar sistemin yanıtına göre uyarlanıyor) kullanılarak, daha önceki bir istem için üretilmiş akıl-yürütmenin geri kazanılması denendi. Ortalama saldırı-başarı oranı, ÖZGÜN korumalı GPT-6 Astra’da YÜZDE 54,0 iken, GÜNCELLENMİŞ korumalı GPT-6.2 Astra’da YÜZDE 0,2’ye düştü; geçerli istemin akıl-yürütmesini hedefleyen saldırılarda ise yüzde 22,9’dan yüzde 0,9’a indi — her saldırı tipi için ortalama yüzde 1’İN ALTINDA. Sınırını da kendisi söylüyor: karşılaştırma hem farklı model-sürümü hem farklı koruma seti üzerinden — düşüşün ne kadarının mimariden, ne kadarının kalkandan geldiği bu tablodan AYRIŞTIRILAMAZ; ölçüm şirket-içi, bağımsız tekrar yok.

SAVUNMA mimarisi iki düzeyli. İSTEM düzeyinde: (1) model, damıtma denemelerini tanıyıp reddedecek biçimde eğitiliyor (eğitim örnekleri otomatik kırmızı-takım, soruşturmalar ve sorumlu-bildirimlerden); meşru ‘açıkla-öğret’ istekleri yanıtlıyor; (2) GİRİŞ sınıflandırıcıları damıtma denemelerini yakalıyor; (3) ÇIKIŞ sınıflandırıcıları yanıt mesajlarında VE araç-çağrısı argümanlarında sızıntı şüphesini tarıyor (akış ve akış-dışı yanıtlar dahil); (4) API düzeyinde ŞİFRELİ akıl-yürütmenin yeniden-kullanımı kısıtlanıyor. KAMPANYA düzeyinde: istem- ve hesap-düzeyi sinyallerdeki örüntülerle, BİRÇOK HESABA yayılmış eş-güdümlü damıtma kampanyaları tespit edilmeye çalışılıyor — yani tek-istem filtresi değil, operasyon-avcılığı da var. GPT-6.2 Astra ve Sol’da ek bir mimari hamle: korumalı akıl-yürütme, onu ÜRETEN konuşma geçmişine BAĞLANIYOR — önceki bir mesaj yeniden yazılırsa API onu izleyen akıl-yürütme verisini DÜŞÜRÜYOR; ayrıca daha zayıf korumalı eski model-aileleri yeni modellerin korumalı akıl-yürütmesini OKUYAMIYOR ve başka bir kullanıcının şifreli akıl-yürütmesini açığa çıkaran bir yol kapatıldı. Seçili iyileştirmeler GPT-6 Astra’ya da uygulanmaya başlandı; bulgular sektör-ortaklarıyla paylaşılıyor.

BAĞLAM haftayı boyuyor: OpenAI bu ay yürürlüğe koyduğu yeni kullanım politikasıyla OpenAI çıktılarıyla YERİNE-GEÇME modeli eğitimini açıkça YASAKLADI (kayıtlarımızda) — bu gönderi, o politikanın TEKNİK YAPTIRIM katmanı olarak okunabilir: yasağın arkasına ölçülebilir savunma ve kampanya-tespiti konuyor. Ayrıca GPT-6.2 ailesi bu hafta lansman edildi; savunma sayıları lansman-la eş-güdümlü bir güven-duyurusu niteliğinde. Sektör-mantığı da net: frontier laboratuvarlar için model ağırlıkları değil, ÇIKTILAR üzerinden sızan yetenek, artık birincil hırsızlık vektörü — ve ‘akıl-yürütme’ o vektörün en yoğunu. İzleme kapıları: bağımsız araştırmacıların saldırı-başarı tekrarları (şirket-içi ölçüm tek-kaynak), kampanya-tespit oranlarının ilk kamu vakaları, eski-model-aile kısıtının geliştirici ekosistemindeki yansımaları ve damıtma-yasağının ilk uygulanma dosyaları. (Not: OpenAI-AUP-yürürlük ve GPT-6.2-lansman kayıtlarımızdan AYRI faz — bu, savunma-MİMARİSİ + ölçüm-duyurusu olgusu; Signal/ajan-ekran cephesiyle de AYRI kategori: burada model-çıktısı hırsızlığı, orada ekran-erişimi.)