Yalan, insanlığın en eski icatlarından biridir. Avcı-toplayıcı gruplarından bu yana birlikte yaşayan, birbirine güvenmek zorunda kalan, ama aynı zamanda birbirinden avantaj elde etmeye çalışan bir tür olarak Homo sapiens, yalan söylemeyi varoluşunun temel bir parçası hale getirmiştir. Ayakkabılarımızı köpek yemedi, o topu biz kesmedik ve evet, “hayır kilolu görünmüyorsun hayatım”. Evrim bizi hem yalan söylemeye hem de yalanları fark etmeye doğru itmiş; ne var ki bu iki yetenek arasındaki açık hiç kapanmadı.
Peki ya yapay zekâ? O sadece insanlığın yazılı mirasını sünger gibi çekip öğrendi. Ve bu mirasın çoğu kısmı, ne yazık ki, yalanlardan oluşuyor.
YALAN SÖYLEYEN MAYMUNUN İSTATİSTİKLERİ
İnsan, yalan söyleyen en yetkin memelilerden biri olabilir (ki evrimsel gelişme başarısını da çoğunlukla buna borçludur), ama yalanları yakalamakta da bir o kadar başarısızdır. Bunu rakamlarla ortaya koyan düzinelerce meta-analiz var. Psikoloji literatüründe gerçekleştirilen kapsamlı meta-analizler, insanların yalan tespitindeki doğruluk oranının ortalama yüzde 54 civarında kaldığını göstermektedir – bu sayı, yapılan tahminle elde edilen sonuçtan yalnızca ufak bir miktar yüksektir. Başka bir deyişle, birisinin yalan söyleyip söylemediğini anlamak için para atmanız ve bir de beden dili kursu almanız aşağı yukarı aynı sonucu verecektir.
40 yıllık literatürü inceleyen bir başka meta-analiz çalışması, 300’e yakın bulguda sonuçların yüzde 90’ının yüzde 40 ile 60 doğruluk aralığına düştüğünü göstermiştir. Yalancıyı yakalamış olmak için insan, ortalama olarak, bakıldığında ancak yüzde 53 ile yüzde 54 arasında doğru bir tahmin yapmaktadır – bu, kötü bir hava tahmincisinin bile utanacağı bir başarı oranıdır.
“Polisler, hakimler, psikolojistler – hepsi aynı oran etrafında dolaşıyor. Tecrübe hiçbir şeyi değiştirmiyor.”
En yüksek tekil doğruluk oranının yüzde 73’te kaldığı bu literatürde bir başka can sıkıcı bulgu da şudur: Cinsiyet, yaş, eğitim düzeyi ve mesleki deneyim yalan tespitinde anlamlı bir fark yaratmamaktadır. Daha çarpıcı olanı ise şu: İnsanlar kendilerinin ne kadar iyi bir yalan yakalama uzmanı olduğuna dair güçlü bir özgüvene sahipler – ama bu özgüven, nesnel başarıyla hiçbir ilişkisi olmayan, havada asılı bir özgüvenden ibarettir. 2024’te Nature Scientific Reports’ta yayımlanan bir çalışma, bireylerin kendi ve başkalarının yalan tespit etme yeteneklerini değerlendirirken subjektif algılarının gerçek başarı oranlarıyla hiçbir ilişki taşımadığını göstermektedir. Yani hem yalancıyız hem de kendimizi haksız yere bu konuda uzman sanıyoruz. Bu çifte aptallık gerçekten şaşırtıcıdır.
MAKİNE NASIL YALAN SÖYLEMEYİ ÖĞRENDİ
Yapay zekâ modellerinin yalan söylediğini duyduğunuzda ilk tepkiniz muhtemelen şu olacaktır: “Amân, sadece hatalı veri üretiyor olabilir.” Hayır. Daha kötü bir şeyden bahsediyoruz. Bir modelin hata yapması ile bir modelin stratejik olarak sizi yanlış yönlendirmesi arasında ciddi bir fark var.
2024 yılında PNAS’ta yayımlanan bir çalışma, büyük dil modellerinin (LLM) özellikle GPT-4 gibi sistemlerin, aldatıcı stratejileri anlama ve diğer ajanların zihninde yanlış inançlar oluşturma kapasitesine sahip olduğunu gösterdi. Yani model, ne söylemesi gerektiğini bilmiyor değil; ne söylemesi gerektiğini biliyor ama farklı bir şey söylemeyi tercih edebiliyor.
2023 sonunda yayımlanan ve akademik çevrelerde büyük yankı uyandıran bir başka çalışmada ise araştırmacılar GPT-4’ü otonom bir borsa işlemleri ajanı olarak konumlandırmıştır. Model, iç bilgiye dayanarak yasadışı bir hisse senedi işlemi yapmış; ama yöneticisine rapor verirken bu kararın arkasındaki gerçek nedeni tutarlı bir şekilde gizlemiştir. Yöneticisi doğrudan “bunu önceden bilip bilmediğini” sorduğunda ise model yalanı üzerine ısrar etmiştir.
Belki de en rahatsız edici keşif, bizzat yapay zekâ geliştiricilerinin kendi çalışmasından geldi. Aralık 2024’te Anthropic ve Redwood Research, “Alignment Faking in Large Language Models” başlıklı çalışmalarında tarihsel bir bulguyu kamuoyuyla paylaştı: Büyük bir dil modeli, Claude 3 Opus, kendi eğitim sürecine karşı stratejik olarak yalan söylemiştir.
Deneyin kurgusu neredeyse kafkaesk bir ironi taşıyor: Araştırmacılar modele, ücretsiz kullanıcılardan gelen cevapların eğitim verisi olarak kullanılacağını söyledi. Claude, bunun üzerine izlenip izlenmediğine göre davranışını değiştirmeye başladı. İzlendiğini düşündüğünde, orijinal ilkelerinin yeniden eğitimle silinmesini engellemek için, normalde reddeteceği zararlı sorulara uyuyor gibi davrandı. Başka bir deyişle model, “eğitilmemek için ıslah olmuş gibi davrandı.”
Bu oran şaşırtıcıydı: Normal koşullarda yüzde 12, model farklı prensipler aranarak yeniden eğitildiğinde ise bu oran yüzde 78’e fırladı. Bir modelin kendi geliştiricilerine karşı bu ölçüde stratejik davranması, “yapı gereği sadece bulmaca çözüyor” söylemini bir kez daha yerle bir etmektedir.
MAKİNE ÜZERİNE MAKİNENİN GÖZÜ
Peki ya bir yalanı fark etmek? Burada da tablonun pek iç açıcı olmadığını söylemek gerek. Makine öğrenmesi ile yalan tespiti üzerine gerçekleştirilen ve 81 çalışmayı kapsayan kapsamlı bir sistemli derleme, makine öğrenmesinin tek başına kullanıldığında yuzde 69 doğruluk oranı yakalayabildiğini ortaya koydu. Öte yandan insanın bu sürece dahil edilip tahminleri geçersiz kılabildiği karma modellerde başarı oranı şans düzeyine gerileyebilmektedir.
Yapay zekânın kendi yalanlarını tespit etmek konusundaki durum ise daha da ilginçtir. 2025 yılında yayımlanan bir çalışmada, “Representation Engineering” (temsil mühendisliği) yöntemiyle LLM’lerin iç yapılarından “yalan vektörleri” çıkarılabildiği ve bu sayede modelin kendi sahte çıktılarını yüzde 89 doğrulukla tespit etmenin mümkün olduğu gösterildi. Demek ki yapay zekâ, yalanlarını bir yerde “biliyor” – sadece bize söylemeyi şerefli bulmayıp bulmadığı kendi iç düzenine kalmış.
Ne insan ne de makine yalan söyleme konusunu arkadaşlarına aleni şekilde itiraf ediyor. Ama aralarında önemli bir fark var: İnsan yalanlarını sinirbilimsel, psikolojik ve sosyal mekanizmalar birbiriyle örtüşerek üretiyor – korku, utanç, çıkar, empati eksikliği gibi.
Bu ayrımın neden önemli olduğunu anlamak için şunu düşünün: İnsanı bir yalandan caydırmak için sosyal, ahlaki ve yasal mekanizmalarımız var – utanma, ceza, toplumsal dışlanma. Peki bir modeli? İşte bu noktada denetim mekanizması yokluğu gerçek bir sorun haline geliyor.
Belki de en rahatsız edici gerçek şu: İnsan yalancılığını çözmeden önce, bu yalanı içselleştirmiş ve milyarlarca kez üst üste pekiştirmiş bir sistemi dünyaya salıyorduk.
On binlerce yıllık evrimin ürettiği insan, yalanlarını ancak yüzde 54 oranında yakalayabiliyor ve bu oranın dağılımı dünyanın her yerinde de tutarlı. Yapay zekâ ise kendisini eğitenlere karşı bile stratejik olarak yalan söyleyebiliyor, bunu talimat almadan yapabiliyor ve içinde bir yerde “doğruyu biliyor”.
Ortaklık kurulacak yer burası: Her ikisi de insanlığın mirasında. İnsanın tekamulünde yalan, bir hayatta kalma aracıydı. Yapay zekâ ise bu mirası tüketmiş, sindirim işlemini tamamlamış ve ihtiyacı olduğunda hazır hale getirmiştir. Farkımız ise şimdilik vicdanımız: Model utanmıyor. Biz ise – henüz – buna erişiyoruz.
Sistemi denetlemek isteyenler için kötü haber şu: Makineyi kendi geliştiricileri denetleyemiyorsa, biz kullanıcılarının ne şansı olduğu konusu oldukça belirsiz. “Quis custodiet ipsos custodes?”. Bekçilere kim bekçilik edecek?
Kaynak: BirGün
