OpenAI, Washington'daki basın brifinginde çocukların cinsel istismarına ilişkin içerikle (CSAM) mücadele için dört ayaklı bir paket duyurdu: yapay zekâ üretilmiş materyali de yakalayan ve görüntünün YZ'den üretilmiş olma olasılığını ayrıca işaretleyen yeni bir görüntü sınıflandırıcı (incelenmiş kuruluşlara API üzerinden ücretsiz), ChatGPT'de uyarı ekranları ve 24 saatlik erişim durdurması, geliştiriciler için rehber ve kolluk kuvvetlerine yönelik araçlar. Erken testlerde sınıflandırıcının yüzde 48 daha az görüntü işaretlerken aynı sayıda istismar görüntüsünü bulduğu bildirildi.
OpenAI, çocukların cinsel istismarına ilişkin çevrimiçi içerik (CSAM) sorununa yönelik yeni bir araç paketini Washington’daki basın brifingiyle duyurdu. Paketin merkezinde, daha önce görülmemiş görüntülerde bile istismarın GÖRSEL işaretlerini arayan ve incelemecilere öncelik sırası için puan üreten yeni bir görüntü sınıflandırıcı var. Şirketin vurgusu teknik: bu, geniş kullanıma açık sınıflandırıcılar arasında görüntünün YAPAY ZEKÂ’DAN üretilmiş olma olasılığına İLK ayrı sinyal veren araç — OpenAI çocuk güvenliği kamu politikası Başkanı John Buckley’ye göre ‘kurgusal çocuk ile gerçek çocuk içeren görüntüleri ayrıt etmek, kolluk bildirim akışlarında kritik’.
Arka plan rakamları aciliyeti açıklıyor: The Verge’in aktardığına göre NCMEC’in CyberTipline hizmeti 2024’te 67 bin olan üretken yapay zekâ kaynaklı bildirimi 2025’te 400 bine çıkmış durumda — araştırmacılar bu yükün raporlama sistemlerini ‘yönetilemez’ hâle getirebileceği uyarısını yapıyor. Sınıflandırıcı tam da bu triyaj sorununu hedefliyor: şirket verilerine göre erken testlerde YÜZDE 48 DAHA AZ görüntü işaretlerken AYNI sayıda istismar görüntüsü buluyor; işaretlenen görüntüler istismar içerikli olma bakımından iki kat daha olası. Yani yanlış-pozitif yükü azalıyor, incelemeci zamanı gerçek olgulara akıyor. Sınıflandırıcı, NCMEC ile birlikte eğitilmiş, değerlendirilmiş ve saha kullanımı için tasarlanmış; incelenmiş kuruluşlara OpenAI API üzerinden ÜCRETSİZ erişilebiliyor — küçük ekipli kuruluşların da kullanımı özellikle hedeflenmiş.
İkinci ayak ChatGPT’nin içinde: uygulamada bu içerik zaten engelli; yenilik, kullanıcıyı bu tür isteklere yönelten uyarı ekranları — uzman rehberliğiyle geliştirilen uyarı, kişiyi davranışı bırakması için uzman desteğine yönlendiriyor. İlk ihlalde hesaba 24 SAAT erişim durdurması uygulanıyor ve hesabın kalıcı kapatılabileceği bildiriliyor; şirket tüm CSAM örneklerini NCMEC’e bildirdiğini yazıyor. Buckley, 24 saatlik durdurmanın ‘CSAM arayışı ve üretimini önleme ve yanıtlamada neyin işe yaradığına dair uzman önerisi ve uluslararası kanıta’ dayandığını belirtmiş — amacın cezalandırma değil, zararlı davranışı kesintiye uğratıp yardıma yönlendirmek olduğu çerçevesi.
Üçüncü ve dördüncü ayaklar ekosisteme bakıyor: geliştiriciler için Tech Coalition, Thorn, NCMEC ve Internet Watch Foundation katkısıyla hazırlanan rehber (önleme, tespit, bildirim adımları; Moderation API ve Thorn Safer gibi hizmetlerle birlikte kullanım) ve kolluk kuvvetlerine yönelik eklentiler, soruşturma araçları ve karmaşık veri analizi desteği — erişim program yöneticileri denetiminde. ABD’de YZ üretilmiş CSAM da yasa dışı ve 48 eyalet cinsel içerikli derinfeyz yasalarına sahip. Duyuru, OpenAI’ye yönelik güvenlik baskısının yoğunlaştığı bir haftada geldi — dün Kaliforniya Başsavcılığı Hugging Face olayı gerekçesiyle şirkete dava açmıştı. İzlenecek kapılar: sınıflandırıcının saha ölçümleri (bağımsız doğrulama yok), NCMEC bildirim hacmindeki seyir, uyarı-ve-durdurma modelinin davranış üzerindeki etkisi ve diğer büyük sağlayıcıların benzer sinyalleri pane alması.