Yapay Zekâ da bizi görecek mi?

Yıllar önce ekranlarda gösterilen Vizontele filmindeki bir sahne, televizyonun ilk kez Hakkâri’ye gidişini anlatır. Belediye başkanı, ilçeye televizyonun gelişini müjdelemek için halkı belediye binasının önünde toplar; balkondan konuşma yaparak yeni teknolojiyi anlatmaya çalışır. Hayatında televizyon görmemiş birine televizyonu tarif etmek güçtür.

Toplananlardan biri sorar: “Vizontele nedir ki?” Belediye başkanı cevaplar: “Radyonun resimlisi… Zeki Müren’i hem dinleyecek hem de göreceksiniz.” Kalabalıktan bir ses yükselir: “Peki Zeki Müren de bizi görecek mi?”

Bu soru, yalnızca memleketimizde değil, yeryüzüne giren her yeni teknoloji karşısında varlığını korur. Peki yapay zekâ da bizi görecek mi?

Bu bir film cümlesi olsaydı “Görmüyor kardeşim, geçiniz.” diyerek yola devam edebilirdik. Ancak bu yazının konusu, yapay zekânın bu kadar “bilir” göründüğü bir çağda nasıl olup da bazılarımızı görmediği. Görmüyor derken kastettiğim şu: Yapay zekânın yaslandığı veri tabanında ötekileştirilmiş grupların, kadınların, engellilerin, farklı etnik kökenlerden bireylerin ve farklı cinsel yönelimlerin ya hiç yer almaması ya da eksik temsil edilmesi. Mesele tam da burada başlıyor.

Tarafsız gibi görünen, tarafsız olmayan

Yapay zekâ sistemleri, nesnel ve tarafsız araçlar olarak sunulur. Aslında tüm teknolojik yenilikler, yüzyılın başından beri tarafsız olarak tanımlanır. Bu teknolojinin kime, nasıl yarar sağladığı sorusunun cevabı, bu tarafsızlığın mevcut olmadığının göstergesidir. Aynı şekilde bir sistem, tarafsız olmayan verilerle eğitildiğinde, tarafsızlık iddiası başlı başına bir yanılsama hâline gelir. Bugün yapay zekâ hayatımızda daha çok yer tuttukça daha fazla bedel ödemek zorunda bırakılıyoruz. Artık bu vakalar mahkeme salonlarına taşınıyor.

Aşağıda aktaracağım üç vaka, birer istisna değil. Bunlar, algoritmik sistemlerin tarihsel eşitsizlikleri nasıl devraldığının ve hızlandırdığının belgelenmiş örnekleri.

Birinci vaka: “Aktif dinleme pratiği yapın”

D.K., yerli kökenli ve işitme engelli bir kadın olarak bir finans teknolojisi şirketinde beş yıldır çalışır. Üst üste yüksek performans değerlendirmesi aldığı için yöneticisi onu üst bir pozisyona başvurması için yönlendirir. Şirketin tüm işe alım ve performans süreçleri HireVue tarafından yürütülür.

HireVue, ki bu ismi önümüzdeki günlerde çok daha fazla duyacaksınız, şirketlerin işe alım süreçlerini hızlandırmak ve dijitalleştirmek için kullandığı, yapay zekâ destekli popüler bir video mülakat ve değerlendirme platformudur. Adayların iş başvurularından sonra canlı bir mülakatçı yerine bilgisayar ya da telefon üzerinden katıldıkları “tek yönlü” video görüşmelerini yönetir. Platformun yapay zekâ bileşeni, kayıtları analiz ederek iletişim becerileri, problem çözme, özgüven ve şirketin gereksinimlerine uyum gibi konularda adayları sıralamaya yardımcı olur.

D.K.’nın da HireVue tarafından yürütülen mülakata girmesi beklenir. D.K., işitme engeli nedeniyle gerçek zamanlı insan altyazısı CART, yani Communication Access Realtime Translation —İletişim Erişimi Gerçek Zamanlı Çeviri— talebinde bulunur. Platformun otomatik altyazı sistemi mevcut olduğu gerekçesiyle talebi kurum tarafından reddedilir ve otomatik sisteme yönlendirilir.

Bu noktada şu bilgiyi paylaşmakta da yarar var: Araştırmalar, otomatik konuşma tanıma sistemlerinin işitme engelli bireyler için yaklaşık iki kat daha yüksek hata oranıyla çalıştığını gösteriyor. Bu oran, aksanlı ve beyaz olmayan konuşmacılarda daha da artıyor. D.K., yerli ve işitme engelli biri olarak iki farklı kimliğin kesişiminde yer alıyor. Tahmin edileceği üzere terfi başvurusu reddedilir. Süreci değerlendiren yapay zekâ bir geri bildirimde bulunur: “İletişim becerilerinizi geliştirin. Aktif dinleme pratiği yapın.”

Bu sonuç üzerine D.K., Colorado Amerikan Sivil Özgürlükler Birliği’ne (ACLU), Colorado Sivil Haklar Bölümü’ne ve ABD Eşit İstihdam Fırsatları Komisyonu’na Mart 2025’te şikâyette bulunur. Bu şikâyette, finansal yazılım şirketi Intuit’in, üçüncü taraf tedarikçi HireVue tarafından sağlanan yapay zekâ destekli işe alım değerlendirme yazılımının işitme engelli ve beyaz olmayan bireylere karşı ayrımcılık yaptığı iddia edilir. Dava; Engelli Amerikalılar Yasası, Medeni Haklar Yasası’nın VII. Başlığı ve Colorado Ayrımcılık Karşıtı Yasası kapsamında değerlendirilir. Süreç devam etmekte.^[1]

İkinci vaka: Kadın olmak elenme nedeni

Amazon, 2014 yılında yapay zekâ destekli bir özgeçmiş tarama sistemi geliştirmeye başlar. Bu sayede yüzlerce başvuruyu otomatik olarak değerlendirip en iyi beş adayı öne çıkarmayı amaçlar. Amazon’un çok sayıda mühendis işe alması gerekir ve şirketin amacı, interneti tarayan, işe alınmaya değer adayları tespit edebilen bir yapay zekâ geliştirmektir. Sistem, geçmiş on yılın başarılı işe alım verilerini kullanarak adaylara bir ila beş yıldız arasında puan verecektir. Bu yöntem birçoğumuza, alışveriş sitelerinde yaptığımız ürün değerlendirmelerinden tanıdıktır.

Ancak 2015’te fark edildiği üzere sistem, yazılım geliştirici ve teknik pozisyonlar için adayları cinsiyetten bağımsız biçimde değerlendirmez. Eğitim verisi, teknoloji sektörünün erkek egemen yapısını yansıttığından makine öğrenimi süreci bir “başarılı aday” profili oluşturur; bu profil de erkek mühendislerden oluşur. Makine, özgeçmişlerde gördüğü “women’s chess club” (kadın satranç kulübü) gibi, içinde kadın sözcüğü geçen ifadeleri otomatik olarak düşük puanlar. Öte yandan erkek mühendis özgeçmişlerinde sıkça geçen “executed” (yürüttü) ve “captured” (elde etti) gibi eylemler yüksek puanla ödüllendirilir.

Cinsiyet önyargısı tek sorun değildir. Modelin veri altyapısındaki sorunlar, niteliksiz adayların da pek çok pozisyon için önerilmesine yol açar ve sistem neredeyse rastgele sonuçlar üretir. Amazon algoritmayı düzeltmeye çalışır; ancak cinsiyet tarafsızlığının güvence altına alınamayacağı sonucuna varır ve projeyi 2017 yılının başında tamamen kapatır. Reuters tarafından bir yıl sonra kamuoyuna paylaşılan bu projeyle ilgili akıllarda bir soru kalmaya devam eder: Amazon projeyi iptal ettiğini ifade etse de bu yapay zekâyı kullanan diğer şirketlerde, örneğin Hilton ve Goldman Sachs gibi şirketlerde, durum nasıldı?^[2]

Üçüncü vaka: 150 başvuru, 149 ret

Arshon Harper, Detroit’te yaşayan, Afrikalı Amerikalı bir bilgi teknolojileri profesyonelidir. Sektörde on yıllık deneyimi vardır.

Sirius XM’e yaklaşık 150 pozisyon için başvurur. Bu 150 başvurunun 149’undan ret yanıtı alır. Buraya kadar her şey normal diyebilirsiniz. Ancak bazı retler, başvurusunun üzerinden dakikalar geçmeden gelmiştir. Sistem, şirketin yapay zekâ destekli başvuru takip platformudur.

Yaşadığı bu deneyimden sonra Harper, ABD federal mahkemesine Sirius XM Radio aleyhine bir dava dilekçesi sunar. Bu dilekçede hukuki argüman iki ayak üzerine kuruludur: Birincisi kasıtlı ayrımcılık, ikincisi ise kasıtsız ancak ayrımcı sonuçlar doğuran etkidir. Burası çok önemli; çünkü ikinci teoriye göre sistemin kasıtlı olarak ayrımcı biçimde tasarlanmış olması gerekmez. Sonuç ayrımcıysa bu, hukuken yeterlidir. Harper’ın başvurduğu sistemin sorguladığı eğitim kurumu, iş geçmişi ve posta kodu gibi değişkenler ırka doğrudan atıfta bulunmaz. Ancak bu değişkenlerin her biri, onlarca yıllık ırk temelli kentsel ayrışmanın ve eğitim eşitsizliğinin yapısal izlerini taşır. Sistem, geçmişi miras almış olur.^[3]

Bugün çeşitlilik ve kapsayıcılık alanındaki çalışmalarda en çok karşılaşılan yanlılık türleri tam da bu başlıklar altında yer alır. Mezun olunan okula dayalı ayrımcılık, okul “seçkin” olarak kabul ediliyorsa bu tür değerlendirmeler sırasında ayrıcalığa dönüşür. Yıllara yayılan bu bilgiyle eğitilen yapay zekâ eleme sistemleri de sıklıkla aynı okulları öne çıkarma eğilimi gösterir.

Algoritmik önyargı: Kötü niyet gerekmez

Bu vakaların hiçbirinde kötü niyetli bir mühendis yoktur. Hiçbirinde “Bu grubu eleyelim.” diye yazılmış bir satır kod yoktur. Ya da olmadığını düşünmeyi tercih ediyoruz. Yine de hepsinde aynı sonuç ortaya çıkar. Çünkü tarihsel olarak dışlananlar, bu kez otomatik olarak, daha hızlı ve daha ölçekli biçimde yeniden dışlanır.

Literatür bu olguyu algoritmik önyargı (algorithmic bias) kavramıyla tanımlar. Bu önyargı birkaç farklı biçimde tezahür edebilir: Tarihsel önyargıda geçmişin ayrımcı kararları veriye, veriden modele aktarılır. Örneklem önyargısında eğitim verisi belirli grupları temsil etmediğinden sistem o grupları tanımaz; tanımadığını başarısız sayar. Güçlendirme önyargısında ise sistem, her kararıyla eşitsizliği büyütür. Çünkü kendi kararları yeni eğitim verisi hâline gelir.

D.K.’nın aksanı “yanlış” değildi; yalnızca sistemin “normal” saydığı sese uymuyordu. HireVue’nun “ideal aday” profili, mevcut en iyi çalışanların analizinden üretilmiştir. O çalışanlar ağırlıklı olarak beyaz, işitme engeli olmayan, Batı kültüründe büyümüş bireylerdir. Evrensel sandığımız şey, aslında tek bir grubun perspektifi olabilir.