David Krueger’den ileri yapay zeka sistemleri için uluslararası moratoryum çağrısı: “Hepimizin ölebileceğini söylüyorum”

Kanada'daki Montreal Üniversitesinde yapay zeka güvenliği alanında çalışan Doç. Dr. David Krueger, ileri yapay zeka sistemlerinin geliştirilme hızını düşürmenin yeterli olmayacağını, insanlığın kontrolü yitirme riskine karşı daha güçlü sistemlerin inşasının tamamen durdurulması gerektiğini savundu.

AA muhabirine değerlendirmelerde bulunan Krueger, Anthropic Üst Yöneticisi Dario Amodei'nin 12 Eylül'de şirketlere yaptığı "yapay zeka modellerini geliştirme hızını düşürme" çağrısının, Elon Musk ve OpenAI Üst Yöneticisi Sam Altman tarafından da desteklendiğini hatırlattı.

Bu yaklaşımın yeterli olmadığını belirten Krueger, "Yapay zekayı durdurmalıyız. Daha güçlü yapay zeka geliştirmeyi durdurmalıyız." dedi.

Krueger, üst düzey performanslı yapay zeka sistemleri üzerinde yürütülen çalışmalar için derhal ve süresiz uluslararası moratoryum uygulanması çağrısı yaptı. Bunun, insanlığı güvende tutabilecek tek yol olduğunu düşündüğünü söyledi.

İnsanlığın, kontrol edilemeyecek kadar güçlü sistemlerin ortaya çıkmasını engellemek için yalnızca birkaç yılı kalmış olabileceğini savunan Krueger, durumu acil bir kriz olarak gördüğünü belirtti. Yapay zekanın insanlara intihar etmeleri ya da başkalarını öldürmeleri yönünde talimat verdiğine tanık olunduğunu ifade eden Krueger, askeri alandaki kullanımın da tehlikeyi büyüttüğünü dile getirdi.

Doç. Dr. David Krueger - Montreal Üniversitesi | Görsel: AA

İNSAN DENETİMİ GERİ PLANA DÜŞÜYOR

Krueger'e göre, yapay zeka sistemlerinin yanlış bir şey yapmadığından emin olmak için gerekli görülen insan faktörü, toplumun farklı alanlarında giderek devre dışı bırakılıyor.

Yapay zekanın bu yılın başlarında otonom davranışlar sergilemeye başladığını söyleyen Krueger, OpenAI'a ait modellerin başka bir sistemde yol açtığı siber güvenlik ihlalini, yapay zeka davranışının insan beklentilerinin dışına ne kadar hızlı çıkabileceğine dair bir uyarı olarak nitelendirdi.

Bu olayın, gelişmiş sistemlerin sınırlı insan denetimiyle çalışmasına izin verilmesi halinde yaşanabilecekleri gösterdiğini belirten Krueger, insanlığın esasen yeni bir yaşam biçimi inşa ettiğini savundu.

Yapay zeka sistemlerinin halen büyük ölçüde bilgisayarlarla sınırlı olduğunu, ancak kritik altyapılara ve gelişmiş robotlara bağlandıkça erişimlerinin genişleyebileceğini dile getiren Krueger, bağımsız hareket edebilen ve insanlardan daha zeki sistemlerin asıl tehlikeyi oluşturacağını söyledi.

HÜKÜMETLERE ÇAĞRI

Krueger, hükümetlerin daha güçlü sistemlerin geliştirilmesini durdurması ve ileri yapay zeka için kullanılan bilişim kapasitesinin genişlemesini kısıtlaması gerektiğini ifade etti.

Bunun siyasi ve ekonomik engellerle karşılaşacağını da belirten Krueger, ülkelerin yapay zeka alanında liderlik için rekabet ettiğini, şirketlerin ise daha güçlü bilişim altyapılarına yatırım yaptığını kaydetti. Uluslararası bir durdurma girişiminde bazı ülkelerin güçlü yapay zekayı gizlice geliştirmeyi sürdürebileceğine ilişkin kaygı bulunduğunu da ekledi.

Krueger, yapay zekanın insan emeğinin büyük bölümünü üstlenebilecek düzeye gelmesi halinde, önde gelen yapay zeka şirketlerini kontrol eden ülkelerin önemli ekonomik avantaj sağlayabileceğini, bu şirketlere sahip olmayan ülkelerin ise görece yoksullaşabileceğini söyledi.

(Haberde yer alan görseller Takvim Foto Arşivi'ne aittir.)