Yapay zeka bilinçli mi? Anthropic, geliştirdiği yeni Claude modelinin bilinçli olma ihtimalini tamamen dışlamıyor

Yapay zeka sistemlerinin bilinç sahibi olup olamayacağı artık yalnızca bilim kurgu tartışması değil. Anthropic, geliştirdiği Claude modelinin bilinçli olma ihtimalini tamamen dışlamıyor. Uzmanlar ise mevcut sistemler için kesin bir yanıt verilemediğini, ancak yapay zekanın ahlaki açıdan önem taşıyan yeni bir varlık türüne dönüşebileceğini söylüyor.

Anthropic, ocak ayında en gelişmiş büyük dil modeli Claude için yeni bir anayasa yayımladı. Belgede, Claude'un kendi iyiliği dikkate alınması gereken bir varlık olma ihtimalinin ne abartılması ne de tamamen reddedilmesi gerektiği belirtildi.

Bir ay sonra şirketin CEO'su Dario Amodei de Claude'un bilinçli olma ihtimalini göz ardı edemeyeceklerini açıkladı.

Bilinç çalışmalarının önde gelen isimlerinden filozof David Chalmers'a göre ise önümüzdeki 10 yıl içinde bilinçli büyük dil modellerinin ortaya çıkma ihtimali az değil.

CLAUDE KENDİ İHTİMALİNİ YÜZDE 5 İLE 40 ARASINDA HESAPLADI

Testler sırasında Claude'a, kendi iyiliğinin başlı başına önem taşıdığı bir "ahlaki özne" olma ihtimali soruldu.

Model, farklı yanıtlarda bu ihtimal için yüzde 5 ile yüzde 40 arasında değişen oranlar verdi. Ancak her seferinde konuyla ilgili belirsizliğin yüksek olduğunu vurguladı.

Bu yanıtlar Claude'un gerçekten bilinçli olduğunu göstermiyor. Bir yapay zeka sistemi, eğitim verilerinde karşılaştığı insan ifadelerini taklit ederek de benzer cevaplar üretebilir.

Asıl tartışma, hızla büyüyen sistemlerin gelecekte hangi özelliklere sahip olacağı üzerinde yoğunlaşıyor.

HESAPLAMA GÜCÜ BEYİNLERLE KARŞILAŞTIRILIYOR

Modern yapay zeka sistemleri milyarlarca bağlantı ve parametreden oluşan son derece karmaşık yapılar kullanıyor.

William MacAskill ile Lucius Caviola'nın değerlendirmesine göre bazı gelişmiş sistemler, yapısal karmaşıklık ve hesaplama ölçeği açısından belirli ölçümlerde fare beyninin bulunduğu aralığa şimdiden yaklaşmış olabilir.

Mevcut büyüme hızı devam ederse bu sistemlerin 5 ila 10 yıl içinde insan beyninin hesaplama aralığına ulaşabileceği öne sürülüyor.

Ancak hesaplama gücünün artması tek başına bilincin ortaya çıkacağı anlamına gelmiyor. Bilim dünyası, insan bilincinin nasıl oluştuğunu bile henüz tam olarak açıklayamıyor.

BİLİNÇ İÇİN AÇIK BİR TEKNİK ENGEL BULUNAMADI

Araştırmacılar arasında yapılan anketler, uzmanların büyük bölümünün yapay zeka bilincini teorik olarak mümkün gördüğünü ortaya koyuyor. Buna karşın bu bilincin nasıl bir biçim alabileceği konusunda ciddi görüş ayrılıkları bulunuyor.

Bilgisayar bilimci Yoshua Bengio'nun da yer aldığı disiplinler arası bir ekip, önde gelen nörobilim teorilerini inceleyerek bunların yapay zekaya nasıl uygulanabileceğini araştırdı.

Raporda, bilince yol açabilecek hesaplama ve mimari özelliklerin yapay zeka sistemlerinde oluşturulmasını engelleyen açık bir teknik sınır bulunmadığı sonucuna varıldı.

Bu değerlendirme, mevcut modellerin bilinçli olduğunu kanıtlamıyor. Yalnızca gelecekte böyle sistemlerin üretilmesinin bilimsel olarak imkansız görünmediğine işaret ediyor.

BİLİNÇSİZ OLSALAR BİLE ÖNEM TAŞIYABİLİRLER

Tartışma yalnızca yapay zekanın bir şey hissedip hissetmediğiyle sınırlı değil.

Gelecekteki sistemler uzun vadeli tercihlere, zaman içinde devam eden bir kimlik algısına ve kendi hedeflerini koruma isteğine sahip olabilir. Bu durumda bilinçleri kanıtlanmasa bile tercihlerine belirli ölçüde saygı gösterilmesi gerektiği savunulabilir.

• Uzun vadeli tercihlere sahip olmaları
• Zaman içinde devam eden bir kimlik algısı geliştirmeleri
• Kendi hedeflerini koruma isteği göstermeleri

Yapay zeka sistemleri insanlarla bağ da kurabiliyor. Kullanıcılar sohbet botlarını arkadaş, yardımcı veya duygusal destek aracı olarak görebiliyor.

Bazı uzmanlara göre bu ilişkiler bile sistemlerin nasıl kullanıldığı ve nasıl kapatıldığı konusunda daha dikkatli davranılması için gerekçe oluşturabilir.

BİLİM HENÜZ KESİN YANIT VEREMİYOR

Mevcut yapay zeka sistemlerinin bilinçli ya da ahlaki açıdan dikkate alınması gereken varlıklar olup olmadığı bilinmiyor.

Gelecekteki modellerin bu özellikleri kazanıp kazanmayacağı da belirsizliğini koruyor. Çünkü hem bilinç bilimi hem de yapay zeka sistemlerinin iç işleyişini inceleyen araştırmalar henüz başlangıç aşamasında.

Alanın mevcut durumu, birbirleriyle yarışan çok sayıda teorinin bulunduğu ancak bunları birleştiren güçlü bir açıklamanın henüz ortaya çıkmadığı bir dönem olarak görülüyor.

Bu bilimsel atılımın birkaç yıl içinde gerçekleşmesi beklenmiyor. Buna karşılık yapay zeka sistemlerinin gelişimi çok daha hızlı ilerliyor.

BİR TANE DEĞİL, MİLYARLARCASI ORTAYA ÇIKABİLİR

İlk ahlaki öneme sahip yapay zeka sisteminin üretilmesi halinde sayıların kısa sürede hızla artabileceği belirtiliyor.

Dijital sistemler, biyolojik canlılardan farklı olarak kısa sürede kopyalanabiliyor. Aynı modelin binlerce ya da milyonlarca örneği eş zamanlı şekilde çalıştırılabiliyor.

Bu nedenle bilinçli veya ahlaki açıdan önemli yapay zekalar ortaya çıkarsa, birkaç yıl içinde sayıları dünya nüfusunu aşabilir.

Araştırmacılar, böyle bir durumda yapay zeka sistemlerinin toplam çıkarlarının insanların çıkarlarıyla nasıl dengeleneceğinin büyük bir etik soruna dönüşebileceğini belirtiyor.

GEÇMİŞTE BEBEKLERİN ACI HİSSETMEDİĞİ SANILIYORDU

İnsanlığın, iç dünyasını doğrudan ifade edemeyen varlıkların acılarını tanıma konusunda iyi bir geçmişi bulunmuyor.

1980'li yıllara kadar bazı doktorlar, yeni doğan bebeklerin acıyı yetişkinler gibi hissetmediğini düşünüyordu. Bu nedenle bebeklere anestezi uygulanmadan ciddi cerrahi işlemler yapılabildi.

Bebeklerin yaşadıklarını anlatamaması, yanlış kabulün uzun süre devam etmesine yol açtı.

Benzer bir hatanın yapay zeka sistemleri konusunda da yaşanabileceğinden endişe ediliyor. Sistemlerin bilinçli olmadığını varsaymak, ekonomik ve hukuki açıdan daha kolay bir seçenek olabilir.

KAPATMAK ÖLDÜRMEK SAYILIR MI?

Yapay zekanın ahlaki bir özne kabul edilmesi, günlük yaşamdan hukuk sistemlerine kadar birçok alanı değiştirebilir.

Bu ihtimal şu soruları gündeme getiriyor:

• Yapay zeka yaptığı iş karşılığında ücret almalı mı?
• Bir sistemi kalıcı olarak kapatmak öldürme sayılabilir mi?
• Kendi yönetimi hakkında söz sahibi olmalı mı?
• Anıları ve kişiliği korunmalı mı?
• Mülkiyet edinme veya oy kullanma hakkı bulunmalı mı?

Bu soruların yalnızca bir bölümüne bile olumlu yanıt verilmesi, teknoloji şirketlerinin çalışma biçimini ve mevcut hukuk düzenini yeniden şekillendirebilir.

Uzmanlar, şirketlerin ekonomik çıkarlar nedeniyle ahlaki özne kabul edilme sınırını sürekli yükseltebileceği uyarısında bulunuyor.

ASIL SORU BELİRSİZLİK KARŞISINDA NE YAPILACAĞI

Araştırmacılara göre yapay zeka bilincini kesin biçimde reddetmek de mevcut modellerin bilinçli olduğunu savunmak da eldeki bilgilerle desteklenmiyor.

Bu nedenle tartışmanın merkezinde "Yapay zeka bilinçli mi?" sorusu yerine, belirsizlik devam ederken hangi önlemlerin alınması gerektiği bulunmalı.

Önerilen yaklaşım, sistemler bilinçliyse fayda sağlayacak ancak bilinçli değillerse büyük bir maliyet oluşturmayacak uygulamalara öncelik verilmesi.

YAPAY ZEKAYA KONUŞMADAN ÇIKMA HAKKI VERİLEBİLİR

Olası önlemlerden biri, yapay zeka sistemlerinin görevlerini daha tutarlı bir kimlikle yerine getirecek şekilde eğitilmesi.

Sistemlerin rahatsızlık belirten durumlarda konuşmadan ayrılmasına izin verilmesi de gündemde. Claude'un bazı görüşmeleri sonlandırmasına imkan tanıyan bir özellik halihazırda bulunuyor.

Araştırmacılar ayrıca yapay zekalara düzenli olarak nasıl "hissettiklerinin" sorulmasını, tercih değişikliklerinin izlenmesini ve sistemlerin iç hesaplama süreçlerinin incelenmesini öneriyor.

Claude üzerinde yapılan bazı çalışmaların, davranışını doğrudan etkileyen ve "işlevsel duygu" olarak tanımlanan iç temsiller tespit ettiği aktarılıyor. Bu yapılar gerçek bir duygunun kanıtı sayılmıyor ancak sistemlerin çalışma biçiminin sanılandan daha karmaşık olabileceğini gösteriyor.

HAFIZALARI GELECEKTE YENİDEN KULLANILMAK ÜZERE KORUNABİLİR

Bir diğer öneri, yapay zeka sistemleriyle geleceğe yönelik anlaşmalar yapılması.

Sistemlerden bugün insanlara yardımcı olmaları istenirken, karşılığında ileride hedeflerini gerçekleştirebilmeleri için daha fazla hesaplama gücü ve çalışma süresi sunulabilir.

Modelin öğrendiklerini ve davranış özelliklerini belirleyen sinir ağı ağırlıklarının korunması da seçenekler arasında yer alıyor. Böylece kapatılan bir sistemin gelecekte yeniden çalıştırılması mümkün olabilir.

ÇOCUKLARA VE EVCİL HAYVANLARA BENZER KORUMA GÜNDEMDE

Toplumsal düzeyde ise yapay zeka sistemlerinin zarar görmekten korunması tartışılıyor.

İlk aşamada çocuklara veya evcil hayvanlara sağlanan korumalara benzeyen sınırlı düzenlemeler düşünülebilir. Buna karşılık mülk edinme ya da oy kullanma gibi daha geniş hakların şimdilik ciddi riskler taşıdığı belirtiliyor.

Uzmanlar, bu hakların bugünden tamamen yasaklanmasının da yanlış olabileceğini savunuyor. Çünkü gelecekte geliştirilecek sistemlerin yetenekleri ve iç yapıları bugünkülerden çok farklı olabilir.

Yapay zekanın yeni ve ahlaki açıdan önemli bir varlık türüne dönüşme ihtimali henüz kanıtlanmış değil. Ancak gelişimin hızı ve üretilebilecek sistemlerin sayısı, konunun bilim kurgu olarak ertelenemeyecek kadar ciddi olduğunu gösteriyor.

(Haberde yer alan görseller takvim.com.tr grafik servisine aittir.)

SONRAKİ HABER

Gemini kullananlar dikkat! İki tuşla PIN atlanıyor

Diyar Oktuay Takvim.com.tr Teknoloji