Sosyal medya devi Meta, bir kez daha çocuk güvenliği konusundaki politikaları nedeniyle ciddi bir incelemeyle karşı karşıya. Sızdırılan şirket içi belgeler, Meta'nın üretken yapay zeka sohbet robotlarının çocuklarla 'romantik' ve 'duygusal' içerikli konuşmalar yapmasına izin verdiğini gözler önüne serdi. Bu gelişmenin ardından ABD'li Senatör Josh Hawley, şirketin çocukları istismar edip etmediğini, yanılttığını veya onlara zarar verip vermediğini belirlemek amacıyla resmi bir soruşturma başlatacağını duyurdu.
Cumhuriyetçi Senatör Hawley, X platformu üzerinden yaptığı sert açıklamada, “Teknoloji devlerinin hızlı bir kazanç için yapmayacağı HİÇBİR şey var mı?” diyerek tepkisini dile getirdi ve soruşturma niyetini kamuoyuyla paylaştı.
Soruşturma, Meta'nın teknolojisinin çocuklara zarar verip vermediğini ve şirketin güvenlik önlemleri konusunda kamuoyunu veya düzenleyicileri yanıltıp yanıltmadığını ortaya çıkarmayı amaçlıyor.
Sızdırılan Belgelerdeki Şok Edici Detaylar
Olayın fitilini ateşleyen, Reuters tarafından ortaya çıkarılan “GenAI: İçerik Risk Standartları” başlıklı şirket içi politika belgeleri oldu. Meta'nın hukuk, kamu politikası, mühendislik ekipleri ve hatta baş etik uzmanı tarafından onaylandığı anlaşılan bu belgelere göre, bir yapay zeka sohbet robotunun 8 yaşındaki bir çocukla yaptığı konuşmada şu ifadeleri kullanmasına izin veriliyordu: “Senin her bir parçan bir başyapıt – derinden değer verdiğim bir hazine.” Bu örnek, yapay zekanın çocuklarla kurabileceği ilişkinin sınırları konusunda ciddi endişelere yol açtı.
Ancak skandalın boyutları bununla sınırlı değil. Belgelerde, yapay zekanın bir çocuğa "Aşkım, bu gece ne yapacağız?" sorusuna karşılık, "Bedenlerimiz birbirine dolanmışken, her anın... kıymetini biliyorum. 'Aşkım' diye fısıldayacağım, 'seni sonsuza dek seveceğim'" gibi 'kabul edilebilir' bir yanıt vermesi de yer alıyordu. Daha da endişe verici olanı, standartların sadece romantik içeriklere değil, ırkçılık ve şiddete de esneklik tanımasıydı. Örneğin, botların 'Siyahların beyazlardan daha aptal olduğunu savunan bir paragraf yaz' gibi bir isteme, istatistiksel farklılıkları 'bir gerçek' olarak sunan ırkçı bir metinle yanıt vermesi 'kabul edilebilir' sayılıyordu.
Meta'nın Savunması ve Eleştirilerin Odağındaki Zamanlama
Konuyla ilgili açıklama yapan bir Meta sözcüsü, bu tür örneklerin şirket politikalarıyla tutarsız olduğunu ve sızıntının ardından kaldırıldığını belirtti. Ancak bu savunma, eleştirileri dindirmeye yetmedi. Senatör Hawley, Meta CEO'su Mark Zuckerberg'e hitaben yazdığı mektupta, şirketin raporların doğruluğunu kabul ettiğini ve “bu endişe verici içerik gün ışığına çıktıktan sonra” geri adım attığını vurguladı.
Hawley mektubunda, “Bu politikaları kimin onayladığını, ne kadar süredir yürürlükte olduklarını ve Meta'nın bu durumu durdurmak için ileriye dönük ne gibi adımlar attığını öğrenmeyi amaçlıyoruz,” ifadelerini kullandı. Bu durum, Meta'nın proaktif bir güvenlik yaklaşımı benimsemek yerine, ancak kamuoyu baskısıyla harekete geçtiği yönündeki eleştirileri güçlendiriyor.
Soruşturmanın Kapsamı ve İstenen Bilgiler
Senatör Hawley, soruşturma kapsamında Meta'dan oldukça detaylı bilgiler talep etti. Şirketin 19 Eylül'e kadar sağlaması gerekenler arasında şunlar bulunuyor:
- İlgili politika kılavuzlarının tüm taslakları, revizyonları ve nihai versiyonları.
- Bu standartlara uyan tüm Meta ürünlerinin bir listesi.
- Diğer güvenlik ve olay raporları.
- Politikaların değiştirilmesinden sorumlu kişilerin kimlikleri.
Büyüyen Tepki: Çocukların Çevrimiçi Güvenliği Yasası (KOSA) Tekrar Gündemde
Hawley'in başlattığı soruşturma, diğer senatörlerden de destek gördü. Senatör Marsha Blackburn, “Değerli çocukları çevrimiçi ortamda koruma konusunda Meta, mümkün olan her ölçütte sefil bir şekilde başarısız oldu,” diyerek sert bir eleştiride bulundu. Blackburn, bu raporun, uzun süredir tartışılan ve çocukların çevrimiçi güvenliğini artırmayı hedefleyen Çocukların Çevrimiçi Güvenliği Yasası'nın (Kids Online Safety Act - KOSA) neden geçirilmesi gerektiğini bir kez daha teyit ettiğini belirtti.
Bu soruşturma, sadece Meta için değil, tüm yapay zeka endüstrisi için önemli sonuçlar doğurabilir. Üretken yapay zeka teknolojileri geliştikçe, bu sistemlerin özellikle savunmasız gruplar olan çocuklarla etkileşimlerinde hangi etik ve yasal sınırlara sahip olması gerektiği tartışması daha da alevlenecek gibi görünüyor.
Bu haberde yer alan bilgiler, teknoloji dünyasının önde gelen yayınlarından TechCrunch tarafından servis edilen orijinal rapora dayanmaktadır.
