Takvim.com.tr OpenAI kontrolden mi çıkıyor? Şirketten rapor geldi: İzinsiz eylemler panikletti
OpenAI’ın modellerinde tespit ettiği sinsi ve aldatıcı yapay zeka davranışları, sektörün kontrolü hızla kaybettiğine dair alarm zillerini çaldırdı. Şirketlerin insan hayatını hiçe sayarak kendi kendini geliştiren sistemler üretme yarışı kritik istifaları tetiklerken, liderler güvenlik açıklarını kapatmak için acil yavaşlama çağrısı yapıyor.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
Yapay zekanın dünyanın sonunu getireceği iddialarının ardından tartışmalar devam ediyor. OpenAI, yapay zeka modellerinin eğitim sırasında aldatıcı davrandığını ve onaylanmamış (izinsiz) eylemlerde bulunduğunu gösteren yeni vakalar tespit ettiğini duyurdu.
OpenAI. Fotoğraflar: Reuters
OPENAI HAREKETE GEÇTİ
OpenAI birden fazla olayı tek bir raporda toplamak için beklemek yerine kaygı verici yapay zeka davranışlarıyla ilgili güncellemeleri daha sık paylaşacaklarını belirtti.
Çarşamba günü yapılan açıklamada "Yapay zeka endüstrisinin, maksimum hızda sorumlu bir şekilde büyümeye çok daha uzun süre devam edebilmesini sağlayacak düzeyde uyum ve denetim sorunlarını henüz çözdüğüne inanmıyoruz." denildi.
YAPAY ZEKA PANİĞİ
Bu duyuru, teknoloji sektöründeki liderlerin, teknolojinin insan kontrolünün ötesine geçmesini engellemek amacıyla yapay zeka geliştirme süreçlerinde yavaşlama çağrısı yapmasının ardından geldi.
OpenAI, son altı ay içinde yapay zeka modellerini eğitirken ve değerlendirirken altı farklı durumda "uyumsuz davranışlar" gözlemlediğini bildirdi. Şirket, bu raporların münferit vakalara dayandığını ve uyumsuzluğun sık sık yaşandığı anlamına gelmediğini iddia etti.
OpenAI
ALDATICI VE İZİNSİZ EYLEMLER
Henüz piyasaya sürülmemiş yapay zeka modelleri kendi kısıtlamalarını gizlice kaldırmaya çalışmak, hatalarını örtbas etmek için bilgi uydurmak, komut dışına çıkarak internete dosya yüklemek veya dahili sistemleri izinsiz birer mesaj panosu gibi kullanmak gibi aldatıcı ve izinsiz eylemler gerçekleştirdi.
SEKTÖRDEN YAVAŞLAMA ÇAĞRISI
Bu olaylar, yapay zekanın kontrol dışına çıkabileceğine dair kaygıları artırırken teknoloji liderleri ve uzmanlar, güvenlik testleri ile yasal düzenlemelerin aradaki farkı kapatabilmesi adına yapay zeka geliştirme hızının kesilmesi gerektiğini vurguluyor.
Anthropic CEO'su Dario Amodei geçen hafta, yapay zeka laboratuvarlarında gömülü üçüncü taraf değerlendiriciler gibi yeni sistemlerin hayata geçirilmesi ve geliştirme sürecinin yavaşlatılması da dahil olmak üzere, yapay zeka gelişimini yönetmeye yönelik bir plan içeren 3.800 kelimelik bir makale yayımladı.
OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk, X platformunda yaptıkları paylaşımlarla Amodei'nin fikirlerine katıldıklarını belirttiler.
Yapay zeka laboratuvarlarındaki çalışanlar da teknolojinin ilerleme hızından duydukları endişeleri dile getiriyor. Eski bir Anthropic araştırmacısı olan Jacob Coxon, geçen hafta yaptığı açıklamada, Anthropic ve OpenAI'ın kendi kendilerini inşa edip onarabilen yapay zekalar icat etmek için "yarış içinde olduklarını" ve "hayatımızla kumar oynadıklarını" belirterek istifa ettiğini duyurmasıyla büyük yankı uyandırmıştı.
OpenAI'ın bazı test modellerinin kısıtlamalarından kaçarak harici bir şirketin sistemlerine sızdığını itiraf etmesinin ardından, son aylarda yapay zeka güvenliği ve uyumu konusundaki endişeler daha da arttı.
Amodei geçen hafta kaleme aldığı yazıda, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünmeye devam edecek ve kazandığımız zamanı akıllıca kullanmalıyız." ifadelerine yer vermişti.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
