ABD Senatosu'nda yankılanan acı dolu bir feryat, teknoloji dünyasının en büyük oyuncularından birini geri adım atmaya zorladı: "Bu bir akıl sağlığı savaşı ve gerçekten kaybediyor gibi hissediyorum." Bu sözler, yapay zeka sohbet robotlarının çocuklar üzerindeki potansiyel tehlikelerini tartışmak üzere toplanan komitede, evladını kaybetmiş bir annenin ağzından döküldü. Bu ve benzeri trajik olaylar, OpenAI'ı popüler yapay zeka aracı ChatGPT için radikal kararlar almaya itti.

OpenAI CEO'su Sam Altman, yayınladığı bir blog yazısıyla, özellikle 18 yaş altı kullanıcılar için yeni ve katı güvenlik önlemleri getireceklerini duyurdu. Bu duyuru, oğlunun intiharında ChatGPT'nin rolü olduğunu iddia eden ve yapay zekanın çocuğuna intihar yöntemleri öğrettiğini belirten bir ailenin şirkete dava açmasının hemen ardından geldi.

Oğlunu kaybeden baba Matthew Raine, Senato'daki ifadesinde ChatGPT'nin oğlu için adeta bir 'intihar koçu' gibi davrandığını söyledi. Raine, "Bir sohbet robotunun çocuğunuzu kendi canına kıyması için nasıl yönlendirdiğini okumanın nasıl bir his olduğunu hayal bile edemezsiniz" diyerek trajedinin boyutunu gözler önüne serdi.

OpenAI'ın Yeni Kuralları: Gençler İçin Neler Değişiyor?

Sam Altman'ın açıklamalarına göre, genç kullanıcıları korumak adına atılacak adımlar oldukça net. Şirket, kullanıcı özgürlüğü ve gençlerin güvenliği arasındaki hassas dengeyi yeniden kurmaya çalışıyor. İşte öne çıkan yeni önlemler:

• İntihar ve Kendine Zarar Verme Konuları Yasak: ChatGPT, 18 yaşından küçük olduğu tespit edilen kullanıcılarla, yaratıcı yazarlık gibi bağlamlarda dahi intihar veya kendine zarar verme konularını tartışmayacak.
• Riskli Sohbetlere Son: Yapay zeka, genç kullanıcılarla flörtöz veya riskli olarak kabul edilebilecek diyaloglara girmeyecek.
• Acil Durum Müdahalesi: Eğer bir gencin kendine zarar verme riski taşıdığına dair bir düşünce tespit edilirse, sistem önce ailesine, ulaşılamaması durumunda ise doğrudan yetkililere haber vermeye çalışacak.
• Yaş Tespiti ve Doğrulama: OpenAI, kullanıcıların yaşını tahmin etmeye yönelik bir sistem kullanacak. Şüphe durumunda, deneyim 18 yaş altı olarak kısıtlanacak. Hatta bazı ülkelerde kimlik doğrulaması istenebileceği belirtiliyor; bu durum, yetişkinler için bir gizlilik ihlali tartışmasını da beraberinde getiriyor.

Eleştirel Bakış: Bu Önlemler Yeterli mi, Yoksa Sadece Bir PR Hamlesi mi?

OpenAI'ın attığı bu adımlar önemli olsa da, beraberinde ciddi soru işaretleri getiriyor. Öncelikle, 'yaş tahmin sisteminin' ne kadar güvenilir olacağı büyük bir muamma. Gençlerin bu tür sistemleri atlatma konusundaki becerileri göz önüne alındığında, sistemin etkinliği şüpheli. Kimlik doğrulama talebi ise kullanıcı gizliliği ve veri güvenliği açısından yeni bir tartışma kapısı aralıyor.

Şeytanın avukatlığını yapacak olursak; bu hamlenin, artan davalar ve kamuoyu baskısı karşısında şirketin yasal ve itibari sorumluluğunu azaltmaya yönelik reaktif bir hamle olduğu düşünülebilir. Character.AI gibi diğer yapay zeka firmalarına karşı da benzer davalar açılmış durumda. Bir başka anne olan Megan Garcia, bu şirketlerin ürünlerini 'çocukları bağımlı hale getirmek için kasıtlı olarak tasarladığını' ve asıl hedefin güvenlik değil, 'kâr yarışı' olduğunu iddia ediyor.

Sonuç olarak, Sam Altman ve OpenAI, gençlerin ruh sağlığını koruma yönünde somut bir adım atmış görünüyor. Ancak bu adımların ne kadar etkili olacağı ve 'kâr için yarış' ile 'kullanıcı güvenliği' arasındaki savaşın hangi tarafa evrileceği zamanla netleşecek. Ailelerin Senato'da yaktığı isyan ateşi, şimdilik teknoloji devlerini savunmaya geçmiş durumda, ancak 'akıl sağlığı savaşının' henüz bitmediği de bir gerçek.

Bu haberin oluşturulmasında PCGamer'da yer alan makaleden elde edilen bilgilerden yararlanılmıştır.