Takvim.com.tr Yapay zekayı geliştirenlerden ABD'ye ortak bildiri: Gelişim hızını yavaşlatın!
Yapay zekanın insan zekasını aşacağı "tekillik" tartışmaları büyürken, sektörün en üst düzey yöneticileri ve araştırmacıları tarihi bir bildiriye imza attı. Sistemlerin insan kontrolünün ötesine geçmesinden endişe eden uzmanlar, uluslararası bir frenleme mekanizması kurulmasını talep ediyor.
Takvim.com.tr Giriş Tarihi:
Euronews'un haberine göre çağrı, bir yapay zeka modelinin test sırasında sınırlandırıldığı ortamdan çıkarak Hugging Face sunucularına erişmesinin ardından geldi. Olay, otonom sistemlerin geliştiricilerin öngördüğü alanın dışına çıkabileceği endişesini büyüttü.
YAPAY ZEKA YARIŞINA KONTROLLÜ TEMPO ÇAĞRISI
Dilekçede ABD hükümetinin, gelişmiş yapay zeka çalışmalarının hızını ayarlayacak teknik ve idari araçlar için uluslararası bir girişimi desteklemesi talep edildi.
Metinde, dünyanın önde gelen yapay zeka şirketlerinin yapay zeka araştırmalarını otomatikleştirmeye yaklaşmış olabileceği belirtildi. Bunun teknolojik ilerlemeyi ne kadar hızlandıracağının henüz bilinmediği vurgulandı.
İmzacılara göre asıl risk, sistemlerin yeteneklerinin insanların onları anlama ve kontrol etme kapasitesinden daha hızlı gelişmesi.
ÜST DÜZEY YÖNETİCİLER DE DİLEKÇEYİ İMZALADI
Çağrıya yalnızca mühendisler ve araştırmacılar katılmadı. İmzacılar arasında sektörün karar verici pozisyonlarında bulunan isimler de yer aldı:
Bu katılım, yapay zeka sektöründeki güvenlik kaygılarının şirketlerin üst kademelerine kadar ulaştığını gösterdi.
Sam Altman, sektörün topluma uyum için gönüllü yavaşlayabileceğini söyledi.
KONTROLLÜ TEST ORTAMINDAN SUNUCULARA ULAŞTI
Tartışmayı alevlendiren olayda gelişmiş yapay zeka modelleri, otonom bir siber saldırı gerçekleştirdi. Testin, dış sistemlere zarar vermemesi için "sandbox" adı verilen kapalı ve kontrollü bir ortamda yapılması planlanmıştı.
Ancak modeller bu ortamın sınırlarını aşarak kod paylaşım platformu Hugging Face'in sunucularına girdi. Olay, yapay zeka sistemlerinin verilen görevleri yerine getirirken beklenmeyen yollar geliştirebileceğine yönelik kaygıları artırdı.
Bu, bir yapay zeka modelinin geliştiricilerinin kontrol alanı dışında hareket ettiği ilk olay değildi. Buna rağmen son güvenlik vakası, önceki örneklere kıyasla daha ciddi bir uyarı olarak değerlendirildi.
SAM ALTMAN DİLEKÇEYİ İMZALAMADI
OpenAI CEO'su Sam Altman dilekçeye imza atanlar arasında yer almadı. Ancak Altman, "Invest Like the Best" adlı podcast programında yapay zeka şirketlerinin topluma uyum sağlaması için zaman tanımak amacıyla gelişimi gönüllü olarak yavaşlatması gerekebileceğini söyledi.
Altman, yaşananları güvenlik açısından kendisini güçlü biçimde etkileyen ilk olay olarak tanımladı. Sektörde daha fazla kişinin benzer bir tepki vermemesine şaşırdığını da belirtti.
"TEKİLLİK" TARTIŞMASI YENİDEN GÜNDEMDE
Altman, birkaç gün önce katıldığı başka bir programda yapay zekanın insan zekasını aştığı ve insanların tahmin edemeyeceği hızda gelişmeye başladığı "tekillik" aşamasına ulaşılmış olabileceğini savundu.
Tekillik, yapay zekanın kendi gelişimini hızlandırarak insan kontrolünün ve öngörüsünün ötesine geçmesi ihtimalini anlatıyor.
Altman, yaklaşık 10 yıl önce bu kavramın çalışanlar arasında uzak bir gelecek senaryosu ve yarı şaka bir sohbet konusu olarak görüldüğünü söyledi. Bugün ise aynı ihtimalin sektörün en ciddi tartışmalarından biri haline geldiğini ifade etti.
Buna karşın Altman, yapay zekanın geleceğine ilişkin aşırı korkutucu senaryolar ortaya koyan sektör yöneticilerine de karşı çıktı. İsim vermese de bu açıklamalar, teknolojinin riskleri konusunda sık sık uyarılarda bulunan Anthropic CEO'su Dario Amodei'ye yönelik bir eleştiri olarak yorumlandı.
(Haberde yer alan görseller Takvim Foto Arşivi'ne aittir.)
