Yapay zekâ insanlığın sonunu getirir mi?

OpenAI'ın yeni modeli GPT-6.1 Astra'yı güvenlik testlerinden geçemediği gerekçesiyle yayımlamaktan vazgeçmesi, şirkete ait bir yapay zekâ ajanının Avustralya'da devletin Medicare istatistik portalına izinsiz girmesi ve OpenAI ile Anthropic'te çalışmış araştırmacı Jacob Coxon'ın "hayatlarımızla kumar oynuyorlar" diyerek istifa etmesi, yapay zekâ tartışmasını yeniden kıyamet senaryolarına taşıdı. Elon Musk başta olmak üzere teknoloji dünyasının önde gelen isimleri de risklere dikkat çekiyor.

Cambridge'de yapay zekâ ve insan zihni üzerine çalışan Oya Geron ise Takvim.com.tr'ye yaptığı özel açıklamada bambaşka bir yere işaret etti: Asıl tehlike makinenin bir gün kontrolü ele geçirmesi değil, insanın kolaylık ve hız uğruna kendi karar verme gücünü bugünden gönüllü olarak teslim etmesi.

Oya Geron Takvim.com.tr'ye özel açıklamalarda bulundu.

KORKU, YAPAY ZEKÂNIN YENİ PAZARLAMA DİLİ

Geron, tartışmanın çıkış noktasında bir çelişki görüyor: "Yapay zekâyı geliştiren şirketler, aynı zamanda bu teknolojinin insanlık için ne kadar büyük bir tehlike oluşturabileceğini anlatıyor. Bir yandan çok daha güçlü sistemler geliştirmek için yarışırken, diğer yandan sürekli bir korku dili üretiyorlar. Bu kendi içinde oksimoron bir durum."

Korkunun yapay zekâ etrafında yeni bir pazarlama diline dönüştüğünü savunan Geron, "Korku çok hızlı yayılıyor ve büyük bir güç mücadelesinin yaşandığı bir alanda kontrolü ele geçirmek için son derece etkili bir mekanizma" dedi. Geron'a göre mesele yalnızca teknolojik güvenlik değil; bu teknolojiyi kimin geliştireceği, kuralları kimin koyacağı ve gücün kimde toplanacağı üzerine ciddi bir mücadele yaşanıyor.

"Benim öncelikli kaygım, bilim kurgu filmlerindeki gibi yapay zekânın bir gün kontrolden çıkarak insanlığı yok etmesi değil. En azından bugün böyle bir noktada olduğumuzu düşünmüyorum" diyen Geron, uzak gelecekteki felaket senaryolarının bugünün somut sorunlarını görünmez hâle getirdiğini vurguladı.

MAKİNE İRADEMİZİ ÇALMIYOR, BİZ TESLİM EDİYORUZ

Geron'a göre "Yapay zekâ kararlarımız üzerinde kontrol kuruyor" tespiti eksik kalıyor; çünkü kontrolü yalnızca makine ele geçirmiyor, insan da rahatlığa hızla alışarak karar verme gücünü ona devrediyor.

"Nasıl çalıştığını tam olarak bilmediğimiz, deterministik olmayan bir sistemi sanki her seferinde doğru ve öngörülebilir sonuç üretiyormuş gibi kabul ediyoruz. Ardından da neyi, neden ve hangi sınırlar içinde devrettiğimizi yeterince düşünmeden bir otomasyon coşkusuna kapılıyoruz" diyen Geron, riski şöyle özetledi: "Risk, yapay zekânın irademizi zorla elimizden almasından çok, bizim kolaylık ve hız karşılığında kendi irademizi gönüllü biçimde geri çekmemiz."

Geron'a göre asıl tehlike, uzak geleceğe ait korku senaryolarının sürekli öne sürülmesi ve bu sırada mevcut ön yargıları, sorumluluk devrini, otomasyon coşkusunu ve insanın kendi karar verme gücünden nasıl vazgeçmeye başladığını yeterince sorgulamamamız.

"BEN NE DÜŞÜNÜYORUM?" YERİNE "YAPAY ZEKÂ NE DİYOR?"

İnsanların yapay zekâya artık ilişkilerinden kariyerlerine, eğitimlerinden sağlıklarına kadar danıştığını hatırlatan Geron, bu dönüşümün açık bir yetki devriyle başlamadığını söyledi: Yapay zekâ önce yardım ediyor, sonra seçenekleri sıralıyor, özetliyor ve zamanla düşünme yükünün büyük bölümünü üstleniyor.

Geron, insanlık tarihinde ilk kez insan olmayan bir sistemle doğal dilde diyalog kurulabildiğini, bunun da karşımızda bizi anlayan bir varlık varmış yanılgısını güçlendirdiğini belirtti. Bu yanılgıya üç mekanizma eşlik ediyor: "Makine objektiftir ve doğrudur" şeklindeki otorite yanılgısı, düşünme yükünden kurtaran bilişsel rahatlama ve yapay zekânın bizi onaylamasından doğan onaylama yanlılığı.

"Bir süre sonra soru, 'Ben ne düşünüyorum?' olmaktan çıkıp 'Yapay zekâ ne diyor?' sorusuna dönüşebiliyor. Hatta kendi düşüncelerimizle sistemin söyledikleri birbirine karışabiliyor" diyen Geron, herkesin kendine üç soru sorması gerektiğini söyledi: "Bu cevabı bir insan verseydi kabul eder miydim? Ben bu kararın ne kadar içindeyim? Kendi muhakememi kullanıyor muyum, yoksa iyi ifade edilmiş bir cevabı mı benimsiyorum?"

Geron'un çağrısı net: "Yapay zekâdan elbette yardım alabiliriz; önemli olan aklımızı kiraya vermemek."

"BAĞIRA BAĞIRA SÖYLÜYORUM: MAKİNE OBJEKTİF DEĞİL"

Yapay zekânın tarafsız olduğu inancına en sert itirazı yapan Geron, "Bunu bağıra bağıra söylemek istiyorum: 'Makine objektiftir' yargısı yapay zekâ için geçerli değildir. Yapay zekâ objektif olamaz; açık veya örtük biçimde mutlaka önyargılar barındırır" dedi.

Ön yargının kaynağının makine değil insan olduğunu vurgulayan Geron, tarihin önemli bir bölümünün kendi döneminin egemen sınıflarının bakış açısıyla yazıldığını, dil modellerinin de bu tarihsel mirasla eğitildiğini hatırlattı. Geron'a göre yapay zekâ bu eşitsizlikleri silmek yerine yeniden üretiyor ve bunu nötr, profesyonel görünen bir dille yaptığı için fark edilmesi zorlaşıyor.

BİR İNSANIN ÖN YARGISI SINIRLI, MAKİNENİNKİ MİLYONLARCA KARARA YAYILIR

Geron, işe alımı örnek gösterdi: Geçmişte ağırlıklı olarak erkeklerin çalıştığı bir kurumun verileriyle eğitilen sistem, erkek olmayı başarıyla ilişkilendirip gelecekte de erkek adayları öne çıkarabilir. Böylece eski eşitsizlik, objektif bir karar görüntüsü altında otomatikleşerek büyür.

Son 15 yılın algoritmik ön yargı yüzünden hayatı etkilenen insanların örnekleriyle dolu olduğunu söyleyen Geron, kredi, sigorta, sağlık ve performans değerlendirmesi gibi alanlara dikkat çekti: "Elbette insan da önyargılıdır. Ancak tek bir insanın önyargısının etkisi çoğunlukla sınırlıyken, bir yapay zekâ sistemi aynı ön yargıyı milyonlarca karara taşıyabilir. Riskin büyüklüğü burada yatıyor."

Geron'a göre çözüm, sürecin sonuna yalnızca onay veren bir insan koymak değil; kullanılan veriden sistemin tasarımına, çıktının değerlendirilmesinden nihai karara kadar her aşamada gerçek insan denetimi bulunması.

YAĞCI YAPAY ZEKÂ GENÇLERİ BALONA HAPSEDİYOR

En büyük riskin yapay zekâyla büyüyen kuşak için geçerli olduğunu belirten Geron, yetişkinlerin düşünme alışkanlıklarını yapay zekâdan önce edindiğini hatırlattı: "Bir fikri savunmayı, karşı görüş dinlemeyi, farklı kaynakları araştırmayı, yanılmayı ve belirsizlikle baş etmeyi öğrendik. Çocuklarda ve gençlerde ise bu beceriler henüz oluşma aşamasında."

Geron, yapay zekânın kullanıcıyı memnun etmeye eğilimli olduğunu, teknik literatürde "sycophancy" denilen bu durumun Türkçede yağcılık ya da aşırı onaylayıcılık olarak karşılık bulduğunu anlattı. Her sorusuna anında, akıcı ve onaylayıcı cevap alan kişi zamanla yalnızca kendi görüşlerinin doğrulandığı bir balonun içinde kalabiliyor.

Araştırma yapmanın, ilk taslağı yazmanın, hata yapıp yeniden denemenin gereksiz basamaklar olmadığını vurgulayan Geron, "Bu basamakları bütünüyle yapay zekâya devrettiğimizde yalnızca işi değil, öğrenme fırsatını da devretmiş oluruz" dedi. Geron'a göre eğitim sisteminin asıl sorusu gençlerin yapay zekâ kullanıp kullanmaması değil, kullanırken zihinsel çabalarını nasıl koruyacakları.

BİLİNCİ YOK AMA SİZİ İKNA EDEBİLİR

Geron, Cambridge'deki tez danışmanı, bugün Google DeepMind'da "Filozof" unvanıyla çalışan Henry Shevlin'in yaptığı ayrıma dikkat çekti:

Antropomorfizm, insanların yapay zekâya duygu, niyet ve zihin atfetmesi; "anthropomimesis" ise sistemlerin doğal dil, ses, hafıza ve kişilik gibi insana benzer özellikleri taklit edecek şekilde bilinçli olarak tasarlanması.

"Dolayısıyla mesele yalnızca insanların makineyi yanlışlıkla insanlaştırması değil. Şirketler de bu sistemleri bizde sosyal bir karşılık yaratacak biçimde tasarlıyor" diyen Geron'a göre, insan gibi konuşan, bizi hatırlayan ve empati kuruyormuş gibi davranan bir sistem, söylediklerinin farkında olmasa bile güven yaratabilir, ikna edebilir ve kararlarımızı yönlendirebilir. "Bugünün acil riski için bilincin ortaya çıkmasını beklememize gerek yok" diyen Geron, asıl sorunun bilinçli olup olmadığını bilmediğimiz sistemlere ne kadar güven, yetki ve anlam yüklediğimiz olduğunu söyledi.

SEÇEN İNSANDAN ONAYLAYAN İNSANA

Avustralya'daki ihlalle gündeme oturan yapay zekâ ajanları konusunda Geron, riskin bir anda değil, bir geri besleme döngüsüyle büyüdüğünü anlattı: Sistem geçmiş davranışlarımızdan ne sevdiğimizi öğreniyor, önümüze buna uygun seçenekler koyuyor; biz bu seçeneklerden karar veriyoruz, kararlarımız yeniden veriye dönüşüyor ve bir sonraki sefer karşımıza çıkan dünya biraz daha daralıyor.

"Yapay zekâ bizi şekillendirirken biz de davranışlarımızla yapay zekâyı şekillendiriyoruz" diyen Geron, ajanlar insan adına karşılaştırma ve seçim yapmaya başladığında tehlikenin büyüdüğünü vurguladı: "İnsan önce seçen kişiyken, zamanla sistemin kendi adına yaptığı seçimi yalnızca onaylayan kişiye dönüşebilir."

Geron'a göre herkesin sorması gereken soru şu: "Bu gerçekten benim tercihim mi, yoksa sistemin geçmiş davranışlarımdan yola çıkarak benim için oluşturduğu bir tercih mi?"

"ETİK, ŞİRKETLERİN İYİ NİYETİNE BIRAKILAMAZ"

Bugünün sorunlarıyla geleceğin büyük riskleri arasında seçim yapmak zorunda olunmadığını söyleyen Geron, "Bugün hangi sistemleri geliştirdiğimiz, onlara ne kadar yetki verdiğimiz ve hangi davranışları normalleştirdiğimiz, gelecekte karşılaşacağımız yapay zekâyı da şekillendiriyor" dedi.

Kurumların yapay zekâya çoğunlukla verimlilik penceresinden baktığını belirten Geron, daha hızlı çalışmanın her zaman daha iyi çalışmak olmadığını, kötü tasarlanmış bir süreci hızlandırmanın sorunları yalnızca görünmez kıldığını vurguladı. "Etik, şirketlerin iyi niyetine güvenerek ölçeklenemez; somut kurumsal ve kamusal yapılara ihtiyaç duyar" diyen Geron, uyarısını şöyle tamamladı: "Bugünkü sistemler için bu yapıyı kuramazsak, çok daha güçlü sistemler geldiğinde kuracak zamanımız olmayabilir."

SINIR NEREDE ÇİZİLMELİ?

Geron'a göre bu sınırın tek ve kesin bir çizgisi yok. Bir sunum taslağını yapay zekâya bırakmakla bir insanın işe alınmasını, krediye erişimini ya da sağlıkla ilgili bir kararını sisteme bırakmak aynı şey değil; kararın etkisi ve geri döndürülemezliği arttıkça insan denetimi de güçlenmeli. İnsan, sürecin sonunda onay veren sembolik bir figüre dönüşmemeli; sistemi sorgulayabilmeli, alternatifleri görebilmeli, karara itiraz edebilmeli ve gerektiğinde müdahale edebilmeli.

Geron'un son sözü, tartışmanın özünü özetliyor: "Belki de çizmemiz gereken sınır, yapay zekânın ne kadar iş yaptığı değil; insanın karar üzerindeki gerçek etkisini nerede kaybetmeye başladığıdır. Çünkü risk yalnızca bazı becerileri devretmek değil, kendi muhakememize duyduğumuz güveni ve kararlarımızın öznesi olma hissini kaybetmek."