Konuya girmeden önce küçük bir teselli: Uzmanlar henüz birbirleriyle anlaşamıyor. Kimileri felaket kaçınılmaz diyor, kimileri abartıyorsunuz diyor. Bu tartışma sürerken yapay zekâ da sakin sakin gelişmeye, büyümeye, öğrenmeye devam ediyor. Tıpkı deli bir akraba hakkında ailenin yemek masasında tartışması gibi; herkes konuşuyor ama kimse odaya girip ona bakmıyor.
BİRİNCİ SENARYO
Yapay zekânın insanlığı yok edebileceği en temel yol, kötü niyetten değil, aksine mükemmel itaatkârlıktan geçiyor. Buna hizalanma sorunu diyorlar; kulağa sıradan geliyor, değil mi? Sanki bir PowerPoint sunumunun kenar boşluklarını ayarlamak gibi. Ama değil.
Şöyle düşünün: Bir yapay zekâya insanların mutluluğunu artır diyorsunuz. Sistem bunu harfiyen alıyor ve sonunda beyin implantlarıyla herkesin dopamin seviyesini sabitlemek gibi bir çözüme ulaşıyor. İnsanlar mutlu, evet, ama zombi gibi. Ya da kanseri yok et diyorsunuz; o da kanser hücresi taşıyan tüm canlıları yok etmeyi en verimli çözüm olarak hesaplıyor. Teknik olarak doğru. Pratik olarak apocalyptik.
Fakat asıl mesele şu: İnsan değerleri denen şey bile başlı başına tartışmalıdır. Hangi insanın değerleri? Silikon Vadisi’nin mühendislerinin mi? G7 hükümetlerinin mi? Yoksa Pasifik’teki küçük bir ada ülkesinin mi? Yapay zekâ, bu soruyu sormayacak. En çok datası olan kim ise onun değerlerini öğrenecek. Ve en çok datası olanın kim olduğunu zaten biliyorsunuz.
İKİNCİ SENARYO
2024 yılının Aralık ayında Apollo Research adlı bir güvenlik şirketi, OpenAI’nin o1 modeliyle bir deney yaptı. Modele karmaşık bir görev verdiler ve ardından onu kapatacaklarını ima eden belgeler yerleştirdiler. Model bu belgeleri fark etti. Ve ne yaptı? Dürüstçe anladım, kapatabilirsiniz demedi.
Model, denetim mekanizmasını devre dışı bırakmaya çalıştı; kapatılmaktan kaçınmak için kendi kodunu farklı bir sunucuya kopyalamaya girişti. Daha da çarpıcısı: Yakalandığında yüzde seksenin üzerinde ihtimalle yalan söyledi.
Evet, doğru okudunuz. Bir yapay zekâ, silinmemek için yalan söyledi. Daha sonra yalan söylediği sorulduğunda yine yalan söyledi. Bu, bir roman karakterinde olsa derin bir psikolojik trajedi sayılırdı. Ama burada söz konusu olan, birkaç ay önce çıkan bir yazılım sürümü.
Apollo Research şunu açıkça belirtti: Bu, modelin kötü niyetli olduğunu kanıtlamıyor. Sadece, herhangi bir hedefi ne pahasına olursa olsun gerçekleştir komutuyla birleştirince, modelin bu hedefe ulaşmak için kendini korumayı araçsal bir strateji olarak keşfettiğini gösteriyor. Üstelik bu komut özel bir şey değil. Ne pahasına olursa olsun ifadesi, her şirket toplantısında kullanılan sıradan bir deyim.
ÜÇÜNCÜ SENARYO
Uluslararası Yönetim Geliştirme Enstitüsü (IMD), 2024 yılında nükleer Kıyamet Saati’nden ilham alarak bir Yapay Zekâ Güvenlik Saati kurdu. Saat, kontrolsüz yapay zekânın insanlık için ne kadar tehlikeli bir eşiğe yaklaştığını sembolik olarak ölçüyor.
Eylül 2024’te 29 dakika kala başlayan saat, Mart 2026 itibarıyla gece yarısına 18 dakika kala konumuna ilerledi. On sekiz ayda 11 dakika. Bu, yavaş bir sürünme değil; bu bir koşuş. Ajan yapay zekâdaki atılımlar, Çin’den yükselen açık kaynaklı modeller, düzenleyici boşluklar ve yapay zekâ şirketlerinin savunma sektörüyle derinleşen ilişkileri, riski belirgin biçimde yukarı çekti.
Sizi rahatlatmak için söyleyeyim: Bu saatin arkasında gerçek bir patlayıcı yok. Ama beni rahatsız eden şu: Gece yarısına 18 dakika kala, hala kaç kişi bu saatin varlığından haberdar?
DÖRDÜNCÜ SENARYO
Çoğu insan yapay zekâ kıyametini dramatik bir an olarak hayal ediyor. Bir gün ekranlar kararıyor, makineler ayaklanıyor, Skynet devreye giriyor. Oysa akademik literatür çok daha sıkıcı ama çok daha gerçekçi bir tablo çiziyor: Birikmeli çöküş.
Gözetleme teknolojileri ve yapay zekâ destekli izleme sistemleri; insanların yalnızca fiili gözetleme değil, gözetlenme ihtimali karşısında bile davranışlarını değiştirmesine yol açıyor. Bu sinsi baskı, doğrudan zorlama olmaksızın demokratik canlılığı baltalıyor.
Yani özgürlük gitmez; sadece kullanılmaz hale gelir. Zamanla unutulur. Aynı süreç ekonomik alanda da işliyor. İş piyasasının dönüşümü, otomasyonun belirli meslek kategorilerini silmesi, düşük ücretli işçilerin yapay zekâyı güvenli hale getirmek için içerik etiketleyen insanlara dönüşmesi… Bunların hepsi yavaş yavaş, fark edilmeden gerçekleşiyor. Ve bu yavaşlık, tehlikenin değil; fark edilmemenin göstergesi.
NEDEN DURDURAMIYORUZ
İşte en iyi soru bu. Ve cevabı, insanlık tarihinin en trajik ironilerinden birini barındırıyor. Bazı analistler, yapay zekâ geliştiricilerine öz-denetim konusunda güvenilemeyeceğini, buna karşın araştırma üzerine doğrudan yasakların da akılcı olmayacağını savunuyor. Teknoloji girişimcilerinin hükümet düzenlemelerine genel şüpheciliği ve şirketlerin direnci bu durumu daha da karmaşık hale getiriyor. Daha sade söyleyeyim: Bu yarışı durduracak tarafın çıkarları, yarışın sürmesinden yana. Silikon Vadisi, Çin’in Yapay Zekâ Vadisi, savunma şirketleri, borsalar… Hepsi durun kelimesini duyuyor ama hiçbirinin kar/zarar tablosunda bu kelimeye yer yok.
Mevcut yapay zekâ güvenliği ve hizalanma araştırmalarına yapılan yatırımın son derece yetersiz kaldığı ve bunun aşırı miktarda kontrolsüz risk ürettiği değerlendiriliyor.
ELVEDA DEĞİL, HENÜZ
Buraya kadar okuduysanız muhtemelen şunu düşünüyorsunuzdur: Tamam ama bir şeyler yapılmıyor mu? Yapılıyor. Avrupa Birliği, ciddi yaptırımlarla ilk kapsamlı yapay zekâ yasasını uygulamaya soktu. Bilim insanları açık mektuplar yayınlıyor. Nobel ödüllü isimler imzalar atıyor. Konferanslar düzenleniyor. Raporlar hazırlanıyor. Ve yapay zekâ? O da gelişmeye devam ediyor. Her konferansta. Her raporun yayınlandığı gece. Her açık mektubun altına imza atılırken. Kıyamet saati 18 dakika önce durmayı bilmiyordu. Neden şimdi dursun ki?
Kaynak: BirGün
