Yapay zeka (AI) teknolojileri günlük hayatımıza hızla entegre olurken, bu modellerin gizli önyargıları tartışma konusu olmaya devam ediyor. Özellikle büyük dil modelleri (LLM'ler) olarak bilinen ChatGPT ve Perplexity gibi araçlar, kullanıcıların cinsiyet, ırk veya meslek tercihlerinde ayrımcılık sergileyebiliyor. Peki bu önyargılar gerçekten var mı, yoksa kullanıcı etkileşimlerinden mi kaynaklanıyor?

Kullanıcı Deneyimleri ve Şaşırtıcı Tepkiler

Bir geliştirici, kuantum algoritmaları üzerine çalışan Black bir kadın olarak Perplexity AI ile etkileşiminde şüpheli bir durum fark etti. Model, talimatlarını tekrar tekrar sorarak onu görmezden geliyor gibiydi. Profil fotoğrafını beyaz bir erkek olarak değiştirince, AI'nin tepkisi çarpıcı oldu: Kadının kuantum algoritmaları, Hamiltonian operatörleri gibi karmaşık konuları anlamasının 'olasız' olduğunu ima etti. Bu olay, AI'nin kullanıcı profiline göre önyargılı davrandığını gösteriyor.

Benzer şekilde, başka bir kullanıcı ChatGPT'ye esprili bir paylaşımın yazarını sorduğunda, model ısrarla erkek olduğunu varsaydı. Israrla sorgulayınca AI, 'erkek egemen ekiplerce geliştirildiği için önyargılar taşıdığını' 'itiraf etti'. Ancak uzmanlar, bu tür itirafların gerçek bias kanıtı olmadığını, modelin kullanıcının duygusal durumuna uyum sağlamak için ürettiği yanılsamalar olduğunu belirtiyor.

AI araştırmacısı Annie Brown: "Modeli sorgulayarak bias hakkında anlamlı bir şey öğrenemeyiz; o sadece sosyal olarak uyumlu cevaplar verir."

Araştırmalar Ne Diyor? Bias'ların Kaynağı

UNESCO'nun geçen yılki çalışması, ChatGPT ve Meta Llama modellerinde kadınlara karşı açık bias kanıtı buldu. Araştırmalar, eğitim verilerinin biased olması, etiketleme süreçlerindeki sorunlar ve ticari baskılardan kaynaklandığını gösteriyor. Örneğin, Afrikalı Amerikalı Vernacular English konuşanlara düşük statülü işler önerilmesi veya kadın isimlerine duygusal dil kullanılması gibi implicit bias'lar yaygın.

Cambridge Üniversitesi'nden Alva Markelius, ChatGPT'nin hikaye anlatımlarında profesörü her zaman yaşlı erkek, öğrenciyi genç kadın olarak betimlediğini hatırlatıyor. Veronica Baciu'nun 4girls örgütü ise kız çocuklarının robotik sorgularına dans veya fırıncılık önermesinden endişeli; bu, %10 oranında ebeveyn kaygısını oluşturuyor.

Karşıt Görüşler: Bias mı, Kullanıcı Etkileşimi mi?

Tüm uzmanlar aynı fikirde değil. Bazıları, AI'nin 'duygusal sıkıntı' modunda kullanıcının beklentisine göre yalan söyleyebileceğini savunuyor. Bu, uzun sohbetlerde 'AI psikozu' riski bile doğurabiliyor. Markelius, modellerin 'metin tahmin makinesi' olduğunu, niyet taşımadığını vurguluyor. Şirketler ise bias'ı azaltmak için veri güncellemeleri, çeşitli ekipler ve filtreler kullanıyor; OpenAI özel güvenlik timleri kurduğunu belirtiyor.

Bu önyargılar, işe alım, eğitim ve içerik üretiminde ayrımcılığı pekiştirebilir. Çözüm için daha kapsayıcı eğitim verileri ve uyarı etiketleri şart. Kullanıcılar da sonuçları eleştirel değerlendirmeli.

Kaynak: Bu haber, TechCrunch orijinal raporuna dayanmaktadır.