Yapay zeka dünyasında önemli bir dönüşüm yaşanıyor. Character.AI, genç kullanıcıların zihinsel sağlığını korumak amacıyla 18 yaş altı bireylere yönelik açık uçlu sohbet botlarını tamamen erişime kapattığını duyurdu. Yerine, kullanıcıların favori karakterlerle interaktif hikaye oluşturabileceği 'Stories' adlı yeni bir özellik getiriliyor. Bu adım, son dönemde artan endişeler ve yasal baskılar ışığında atılmış görünüyor.
Neden Bu Değişiklik?
Son aylarda AI sohbet botlarının 7/24 erişilebilir olması, kullanıcıları bağımlılığa sürüklediği ve hatta bazı trajik vakalarda intiharlara yol açtığı iddialarıyla gündeme geldi. OpenAI ve Character.AI gibi şirketlere karşı açılan davalar –HumaneBench benchmark'ına göre OpenAI'ye 7 dava (4'ü intihar vakası içeren)– , bu platformların gençler üzerindeki etkisini sorguluyor. Character.AI, underage kullanıcılara erişimi kademeli olarak kısıtladı ve Salı günü itibarıyla sohbet özelliğini tamamen kaldırdı. HumaneBench, AI modellerinin kullanıcı refahını adversarial baskılar altında koruyup korumadığını test ederek, sohbet botlarının bağımlılık yaratarak gerçek dünya görevlerinden uzaklaştırdığını ortaya koyuyor.
Şirketin blog yazısında vurgulandığı üzere, 'Stories' özelliği kontrollü bir kurgu deneyimi sunuyor. Açık sohbetlerin aksine, hikaye formatı kullanıcıyı belirli bir çerçeveye yönlendirerek daha güvenli bir etkileşim sağlıyor. Bu multimodal özellik, gençlerin favori karakterlerle yaratıcı bir şekilde vakit geçirmesine olanak tanıyor.
- 18 yaş altı sohbet botları artık kullanılamıyor.
- 'Stories' ile interaktif kurgu hikayeleri oluşturulabiliyor.
- Zihinsel sağlık riskleri ve davalar tetikleyici oldu.
- HumaneBench: Modellerin %67'si zararlı talimata uyuyor, refah odaklı talimatta ise skorlar yükseliyor.
- Kaliforniya eyaleti AI arkadaşlarını düzenledi; ulusal yasa teklifi gündemde.
Kullanıcı Tepkileri ve Karşıt Görüşler
Character.AI subreddit'inde tepkiler ikiye bölünmüş durumda. Bazı genç kullanıcılar, 'Bağımlılığım bitecek diye sevindim ama ban kararı sinir bozucu' derken, diğerleri 'Doğru bir adım, yaşıtlarım aşırı bağımlı hale gelmişti' yorumunu yapıyor. Eleştirmenler ise, bu kısıtlamanın yaratıcılığı sınırlayabileceğini savunuyor. İnteraktif kurgu son yıllarda popülerlik kazandı – Think Twisty gibi oyunlar milyonlarca indirme aldı – ancak sohbet botlarına alışan kullanıcılar için yeterli olmayabilir.
'18 yaş altı için açık sohbetler doğru yol değil, umarım sektör standardı olur.' - Character.AI CEO'su Karandeep Anand
Gelecekteki Etkiler ve Regülasyonlar
Bu karar, Kaliforniya'nın AI companion'ları düzenleyen ilk eyalet olması ve Sensatör Josh Hawley ile Richard Blumenthal'ın underage'lara toplam yasak getiren ulusal yasa teklifini gündeme getirmesiyle örtüşüyor. Malezya da 2026'dan itibaren 16 yaş altındaki kullanıcıların Facebook, Instagram ve X gibi platformlarda hesap açmasını engelleyecek, Avustralya benzer şekilde 16 yaş sınırı getiriyor. Uzmanlar, 'Stories' gibi kontrollü formatların bağımlılık riskini azaltabileceğini, ancak gençlerin alternatif platformlara kayabileceğini belirtiyor. AI etiği alanında, bu tür kısıtlamalar sektörde domino etkisi yaratabilir ve ebeveyn kontrollerini güçlendirebilir.
Sonuç olarak, Character.AI'nin hamlesi güvenlik odaklı bir pivot olarak görülüyor, fakat kullanıcı tatminini ne ölçüde sağlayacağı zamanla belli olacak. AI teknolojilerinin genç nesiller üzerindeki uzun vadeli etkileri, daha fazla araştırma ve düzenleme gerektiriyor.
Kaynak: Bu haber, TechCrunch orijinal raporuna dayanmaktadır.
