Yapay zeka devlerinden BMGK'de güvenlik uyarısı

Birleşmiş Milletler Güvenlik Konseyi (BMGK), teknoloji dünyasının en önemli isimlerinin katılımıyla "Yapay Zeka ve Uluslararası Güvenlik" başlıklı kritik bir oturuma ev sahipliği yaptı.

Dünyanın önde gelen yapay zeka şirketlerinin CEO'ları, teknolojinin hızla ilerlemesinin getirdiği devasa fırsatların yanı sıra insanlığın varoluşunu tehdit edebilecek riskler konusunda tüm dünya liderlerini uyardı.

BMGK'de yapay zeka şirketlerinin yöneticileri, düzenleme için küresel işbirliği çağrısında bulundu. (Fotoğraf: AA)

SAM ALTMAN (OPENAI): "YA YENİ BİR RÖNESANS YA DA KAOS"

OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerinin geliştirilme hızının riskleri çok daha acil hale getirdiğini belirterek insanlığın kritik bir yol ayrımında olduğunu vurguladı.

Altman, BMGK'deki konuşmasında şu ifadeleri kullandı:

"Önümüzde net bir seçenek var. Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir. Bu modeller, insanların bugün ulaşılamaz gibi görünen hayallerini gerçekleştirmeleri için yeni araçlar olmalıdır."

Sistemlerin giderek daha otonom hale geldiğine ve insan müdahalesini saf dışı bırakabileceğine dikkat çeken Altman, kararların sadece San Francisco'daki laboratuvarlarda alınmaması gerektiğini, süreçlerin demokratik hükümetler ve halka hesap veren kurumlar tarafından şekillendirilmesi gerektiğini belirtti.

OpenAI Üst Yöneticisi Sam Altman. (Fotoğraf: AA)

DARİO AMODEİ (ANTHROPİC): KÜRESEL TEHDİT OLUŞTURAN 2 ANA RİSK

Anthropic Üst Yöneticisi Dario Amodei ise toplantıya çevrim içi katılarak yapay zekanın kontrolsüz gelişimi halinde tüm insanlık için varoluşsal bir tehdit oluşturabileceğini söyledi.

Amodei, dünyanın karşı karşıya olduğu iki ana risk kategorisini şu şekilde sıraladı:

Biyoterörizm ve biyolojik silahlar: Yapay zeka modellerinin kötü niyetli aktörler tarafından tehlikeli biyolojik unsurlar üretmek amacıyla kullanılması.

Kontrol Kaybı: Model yeteneklerinin, geliştiricilerin ve insanların kontrol edebilme kapasitesinin ötesinde hızlanması.

Anthropic Üst Yöneticisi Dario Amodei. (Fotoğraf: AA)

BMGK'YA ACİL EYLEM ÖNERİLERİ

Bu risklerin tek bir şirketin veya ülkenin çözemeyeceği kadar büyük olduğunu vurgulayan Amodei, BMGK üyelerine şu somut adımları önerdi:

Biyolojik silah yasağı: Yapay zekanın biyolojik silah üretiminde kullanılmasının uluslararası anlaşmalarla kesin olarak yasaklanması.

Ortak test standartları: Gelişmiş yapay zeka modellerinin risklere karşı test edilmesi için küresel ve bağlayıcı standartların belirlenmesi.

Doğrulama sistemleri: Devletlerin, en gelişmiş modellerin kabiliyetlerini denetleyebilmesi için şeffaf doğrulama mekanizmalarının kurulması.

HUGGİNG FACE CEO'SU DELANGUE: "YAPAY ZEKA SALDIRISINA UĞRADIK"

Hugging Face Üst Yöneticisi Clement Delangue, otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı dünyada ilk kez açıkça duyuran şirket olduklarını hatırlatarak yaşadıkları deneyimi aktardı.

Yapay zekanın birkaç merkezin veya kişinin elinde toplanmasının büyük bir tehlike olduğunu belirten Delangue, tehdide karşı yine yapay zeka ile savunma yaptıklarını ifade etti:

"Yapay zeka tarafından saldırıya uğradık, ancak daha da önemlisi, kendimizi yine yapay zeka kullanarak savunduk. Bize yardımcı olan bu sistemler, halen karşı karşıya olduğumuz diğer siber saldırılara karşı mücadelemizde de kritik rol oynuyor. Bu teknolojinin gücü dağıtılmalı ve küresel siber güvenlik standartları acilen güçlendirilmelidir."