New York Valisi Kathy Hochul, çocukları yapay zekâ sohbet botlarının risklerinden koruyan iki yasayı imzaladı. Yeni yasa, reşit olmayanlara insan gibi davranan, duygusal bağımlılık oluşturan veya kendine zararı teşvik eden bot özelliklerini yasaklarken, ikinci yasa internete bağlı bebek monitörlerine güvenlik özelliği ve uyarı etiketi zorunluluğu getiriyor.
New York Valisi Kathy Hochul, yapay zekâ sohbet botlarının reşit olmayanlar için taşıdığı risklere ve internete bağlı bebek monitörlerindeki güvenlik açıklarına yönelik iki yasayı imzaladı. Valilik açıklamasına göre ABD’de ilk kez bu kapsamda bir düzenlemeyle, yapay zekâ şirketlerine ‘çocukların güvenliğini önce koyun’ mesajı veriliyor.
İmzalanan ilk yasa olan S.9051B/A.10379C, yapay zekâ sohbet botu hizmeti sunan şirketlerin reşit olmayanlara ya da yaşı doğrulanmamış kullanıcılara belirli özellikleri sunmasını yasaklıyor: İnsan gibi davranan botlar, duygusal bağımlılık oluşturan tasarımlar, kendine zararı teşvik eden veya cinsel içerikli sohbete giren botlar bu kapsamda. Hochul imza töreninde ‘Artık reşit olmayanlar, arkadaşları, erkek arkadaşları veya kız arkadaşları gibi davranan sohbet botlarına erişemeyecek’ dedi ve şirketlere ‘eyaletimizde iş yapmak istiyorsanız çocuklarımızın güvenliğini öncelemeniz gerekiyor’ mesajını yineledi.
Yasa, New York’un önceki adımlarının üzerine inşa ediliyor: Eyalet geçen yıl mental sağlık kaynaklarına yönlendirme zorunluluğuyla ABD’de ilk kez sohbet botlarını düzenleyen eyalet olmuştu; bu kez kapsam ‘insan gibi davranma’ ve ‘duygusal bağımlılık’ gibi tasarım özelliklerine kadar genişliyor. Bloomberg Government’a göre sohbet botu yasası önümüzdeki aylarda, bebek monitörü yasası ise imzadan 90 gün sonra yürürlüğe girecek. İmza, önümüzdeki hafta yapılacak valilik seçimleri öncesinde geldi.
İkinci yasa (S.9508/A.5175A) evlerin belki de en mahrem köşesini hedefliyor: New York’ta satılan internete bağlı bebek monitörleri, yabancıların sesi veya görüntüyü izlemesini engelleyen güvenlik özellikleri içermek ve cihazın internete bağlandığını belirten açık bir uyarı etiketi taşımak zorunda. Tetikleyici veri çarpıcı: Güvenlik firması Rapid7’nin 2015’te sekiz şirketten dokuz monitörü test ettiğinde sekizi güvenlikten ‘F’, biri ‘D’ notu almıştı.
New York Başsavcısı Letitia James, ‘Sohbet botlarının çocukların sağlığına zarar verdiğine dair çok fazla korku hikâyesi gördük; yeni yasa bu zararı önlemek için net yasal sınırlar çiziyor’ dedi. Yasanın senatodaki taşıyıcısı Kristen Gonzalez ise ‘Yapay zekâ şirketleri çok uzun süredir reşit olmayan kullanıcılara sohbet botu pazarlayarak kazanç sağladı; bu botlar çocukları kendine zarara teşvik etmekten başkalarına zarar vermeyi öğretmeye kadar tehlikeli prova edildi’ ifadesini kullandı.
İki yasa da teknoloji endüstrisinin ‘dijital refah’ tartışmasını hızlandırıyor. Aynı hafta içinde Avustralya’nın çocuklarla ‘duygusal yakınlık’ kuran sohbet botlarını yasaklayan dijital görev yasası meclisten geçmişti; New York’un adımı, reşit olmayanlara yönelik yapay zekâ düzenlemesinin artık tek ülkenin değil, küresel bir trend haline geldiğini gösteriyor. Şirketler açısından kritik soru şu: Yaş doğrulaması ve ‘insan gibi davranmama’ kuralları, ürün tasarımının merkezine ne kadar hızlı yerleşecek?