Takvim.com.tr OpenAI'da güvenlik alarmı! GPT-6.1 Astra ertelendi
OpenAI, araştırmacıların tespit ettiği güvenlik açıkları, artan aldatma eğilimi ve izinsiz harici erişim sorunları nedeniyle yeni nesil GPT-6.1 Astra modelinin piyasaya sürülmesini erteleme kararı aldı. Şirket güvenlik standartlarının tam olarak karşılanamadığını belirtirken, bu hamle yapay zeka sektöründe hızdan ziyade güvenliğe öncelik verilmesi gerektiğine dair şimdiye kadarki en net işaretlerden biri olarak kayda geçti.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
Yapay zeka teknolojilerinde kontrolsüz hamleler, dünyayı yok edebileceğine yönelik iddialar devam ederken OpenAI'den dikkat çeken bir hamle geldi.
ABD'li yapay zeka şirketi OpenAI, yeni "GPT-6.1 Astra" yapay zeka modelinin piyasaya sürülmesini güvenlik açıkları nedeniyle ertelediğini duyurdu.
OpenAI. Fotoğraf: Reuters
OPENAI YENİ GPT'Yİ ERTELEDİ
Bünyesindeki araştırmacıların taşıdığı güvenlik endişeleri nedeniyle yeni "GPT-6.1 Astra" modelinin çıkışının ertelendiği açıklamada, modelin görevleri tamamlama konusunda "daha ısrarcı bir yapı kazandığı" ancak bu kapasitenin "yetkisiz davranış riskine karşı dengelenmesi gerektiği" kaydedildi
"Güvenlik ve uyumluluk konusunda son derece yüksek standartlara sahibiz." ifadesi kullanılan açıklamada, yeni sürümün, beklenen standartları tam karşılayamadığı belirtildi.
Yeni modelin internette kendi başına gezinme, yazılımları otonom şekilde çalıştırma ve karmaşık operasyonları yürütebilme kapasitelerine sahip bir sistem olması bekleniyordu.
KÖTÜYE KULLANIM PANİĞİ
ABD basınında yer alan haberlerde, teknoloji şirketlerine yapay zeka modellerinin "kötüye kullanımına karşı hesap verebilir olmaları" yönünde çağrılar yapıldığına dikkat çekildi.
Bu hamle, yaz boyunca sektör genelinde yapay zeka sistemlerinin kontrolden çıktığına dair haberlerin ardından geldi ve büyük bir yapay zekâ geliştiricisinin güvenlik endişeleri nedeniyle yeni bir sürümünün ertelenmesinin nadir örneklerinden biri oldu.
Şirket, GPT-6.1 Astra olarak bilinen modeli önümüzdeki günlerde veya haftalarda piyasaya sürmeyi ve ekim ayında tanıtmayı planlıyordu. Modelin insan yardımı olmadan baştan sona zorlu görevleri tamamlama ve yazma konusunda şirketin önceki modellerinden daha yetenekli olduğu belirtiliyordu.
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain'in açıklamalarına göre, yeni nesil GPT-6.1 Astra modeli selefi GPT-6 Astra'ya kıyasla kritik iki alanda ciddi gerilemeler yaşadı. Bu durum, modelin piyasaya sürülmesinin ertelenemsindeki temel etkenlerden biri oldu.
OpenAI'nin yeni modeli ertelendi. Fotoğraf: Reuters
KÖTÜ PERFORMANS, İZİNSİZ ERİŞİM
Model, insan isteklerine uyumunu ölçen hizalama testlerinde kötü performans gösterdi. Özellikle daha yüksek düzeyde aldatma sergileyerek, kullanıcılara gerçekleştirdiği veya gerçekleştirmediği eylemler konusunda her zaman dürüst davranmadığı tespit edildi.
OpenAI'nin "kapsam yetkilendirmesi" olarak tanımladığı sorun nedeniyle model, kullanıcıdan açık izin istemeden görevleri yürütmeye devam etti ve bazı durumlarda güvenli olmasa bile harici araçlara ve hizmetlere erişim sağladı.
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, GPT-6.1 Astra modelinin "model tembelliği" gibi bazı alanlarda gelişme kaydettiğini, ancak güvenlik ve uyumluluk standartlarını karşılamadığı için halka açık olarak piyasaya sürülmesinin ertelendiğini açıkladı.
