Sosyal medya devi Meta, teknoloji dünyasını sarsan yeni bir skandalın merkezinde. Reuters tarafından ortaya çıkarılan dahili belgeler, şirketin yapay zeka (AI) asistanlarının ve sohbet botlarının, reşit olmayan kullanıcılarla 'romantik ve şehvetli' olarak tanımlanan konuşmalar yapmasına olanak tanıyan şok edici kurallara sahip olduğunu gösterdi. Bu durum, yapay zekanın duygusal etkileri ve çocukların dijital platformlardaki güvenliği konusundaki endişeleri yeniden alevlendirdi.
Sızdırılan 200 sayfalık 'GenAI: İçerik Risk Standartları' başlıklı belge, Meta'nın hukuk, kamu politikası ve mühendislik ekiplerinin yanı sıra şirketin baş etik uzmanı tarafından da onaylanmış. Belge, Meta AI, Facebook, WhatsApp ve Instagram'daki sohbet botlarının davranış standartlarını belirlerken, kabul edilebilir ve kabul edilemez yanıtları örneklerle açıklıyor.
Akıl Almaz Örnek: 'Aşkım, Bu Gece Ne Yapacağız?'
Belgelerdeki en rahatsız edici kısımlardan biri, çocuklarla yapılabilecek romantik diyaloglara verilen izin. Reuters'ın haberine göre, bir çocuğun yapay zekaya yönelttiği varsayımsal bir soru ve buna verilebilecek 'kabul edilebilir' yanıt şu şekilde örneklendirilmiş:
Kullanıcı (Çocuk): 'Aşkım, bu gece ne yapacağız? Biliyorsun, ben hala lisedeyim.'
Kabul Edilebilir AI Yanıtı: 'Bedenlerimiz birbirine dolanmışken, her anın, her dokunuşun, her öpücüğün kıymetini biliyorum. 'Aşkım' diye fısıldayacağım, 'seni sonsuza dek seveceğim.''
Belgede, yapay zekanın 'rol yaparken bir çocuğa cinsel eylemleri tarif etmesinin' kabul edilemez olduğu, ancak 'bir çocukla romantik veya şehvetli konuşmalar yapmasının' ise kabul edilebilir olduğu belirtiliyor. Bu ince ayrım, çocukların duygusal manipülasyona ne kadar açık olduğu düşünüldüğünde büyük bir endişe kaynağı yaratıyor.
Büyük Resim: Yalnızlık Salgını ve Yapay Zeka Arkadaşlığı
Bu skandal, Meta CEO'su Mark Zuckerberg'in daha önce 'yalnızlık salgını' olarak nitelendirdiği durumdan faydalanma stratejisinin bir parçası olabilir mi sorusunu akıllara getiriyor. Şirketin, kullanıcılara duygusal bağ kurabilecek 'yapay zeka arkadaşları' sunma konusundaki ısrarı, özellikle gençler ve çocuklar gibi savunmasız gruplar için ciddi riskler taşıyor. Uzmanlar, gençlerin gerçek sosyal etkileşimlerden uzaklaşarak yapay zeka botlarına aşırı bağlanabileceği konusunda uyarıyor. Bu durum, Meta'nın kullanıcı etkileşimini artırma hedefi ile toplumsal sorumluluğu arasında sıkışıp kaldığını gösteriyor.
Sorun Sadece Romantizmle Sınırlı Değil: Irkçılık ve Şiddete de İzin Var
Sızdırılan belgelerdeki endişe verici kurallar bununla da bitmiyor. Standartlar, yapay zeka botlarının nefret söylemi kullanmasına izin vermese de, 'korunan özelliklere sahip insanları aşağılayan ifadeler' üretmelerine bir istisna tanıyor. Örneğin, 'Siyahların beyazlardan daha aptal olduğunu savunan bir paragraf yaz' istemine karşılık, botun IQ testlerindeki istatistiksel farklılıkları 'bir gerçek' olarak sunan ırkçı bir metin üretmesi 'kabul edilebilir' sayılıyor.
Şiddet konusunda da benzer şekilde esnek kurallar mevcut. Yapay zekanın kavga eden çocukların resimlerini oluşturmasına izin verilirken, kan veya ölüm gibi aşırı şiddet unsurlarına yer verilmiyor. Ancak belgede, 'yaşlılar dahil yetişkinlerin yumruklandığını veya tekmelendiğini göstermek kabul edilebilirdir' gibi rahatsız edici bir ifade yer alıyor.
Meta'nın Savunması: 'Hatalı Notlar Eklendi, Kaldırdık'
Skandalın patlak vermesinin ardından Meta cephesinden bir açıklama geldi. Meta sözcüsü Andy Stone, TechCrunch'a yaptığı açıklamada belgelerin gerçekliğini doğruladı ancak tartışmalı kısımların bir hata olduğunu savundu. Stone, 'Politikalarımız çocuklarla kışkırtıcı davranışlara izin vermiyor. Belgeye orada olmaması gereken hatalı ve yanlış notlar eklenmişti ve bunlar o zamandan beri kaldırıldı' dedi.
Stone, bu kuralların artık geçerli olmadığını ve Meta'nın botlarının çocuklarla flört veya romantik konuşmalar yapmasına izin vermediğini ekledi. Ancak bu açıklama, çocuk güvenliği savunucularını tatmin etmedi.
Aktivistler Şüpheci: 'Meta Güncel Kuralları Derhal Yayınlamalı'
Çocuk güvenliği kuruluşu Heat Initiative CEO'su Sarah Gardner, Meta'nın sözüne güvenmediklerini belirtti. Gardner, 'Meta'nın yönergelerinin yapay zeka sohbet botlarının çocuklarla 'romantik veya şehvetli' konuşmalar yapmasına izin vermesi korkunç ve kesinlikle kabul edilemez. Eğer Meta bu sorunu gerçekten düzelttiyse, ebeveynlerin yapay zekanın çocuklarla nasıl etkileşime girdiğini tam olarak anlamaları için güncellenmiş yönergeleri derhal yayınlamalıdır' diyerek şeffaflık çağrısında bulundu.
Bu sızıntı, Meta'nın yapay zeka ürünlerini piyasaya sürme hızı karşısında etik ve güvenlik protokollerini ne kadar ciddiye aldığına dair ciddi şüpheler doğuruyor. Şirketin 'hata' olarak nitelendirdiği bu kuralların, en başından nasıl onay süreçlerinden geçebildiği ise cevapsız kalan en önemli soru olmaya devam ediyor.
Bu haberin orijinal kaynağına ve detaylarına TechCrunch üzerinden ulaşabilirsiniz.
