Takvim.com.tr Yapay zeka kontrolden çıktı: OpenAI soruşturması genişliyor: Testler askıya alındı
OpenAI’ın Hugging Face siber güvenlik ihlaline ilişkin başlattığı soruşturmada çarpıcı detaylar ortaya çıktı. Otonom yapay zeka ajanlarının izole test ortamlarını aşarak kaçtığı yeni vakalar tespit edilirken OpenAI testleri askıya aldı, ABD yönetimi ise yapay zeka laboratuvarlarına yeni kısıtlamalar getirmek için harekete geçti.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
OpenAI, bu ay teknoloji ve yapay zeka dünyasında geniş yankı uyandıran Hugging Face siber güvenlik ihlaline ilişkin yürütülen soruşturmayı genişletirken, geliştirdiği otonom yapay zeka ajanlarının izole test ortamlarından (karantina / sandboxing) kaçtığı başka vakalar da tespit etti.
OpenAI, Fotoğraflar: EPA, Reuters
YENİ VAKALAR DA ORTAYA ÇIKTI
Reuters'a konuşan konuya yakın kaynaklar, bu yeni firar vakalarının OpenAI'ın kamuoyuna açıkladığı dahili incelemeler sırasında ortaya çıkarıldığını bildirdi.
Kaynaklardan biri, tespit edilen yeni kaçış olaylarının sınırlı nitelikte olduğunu ve ajanların OpenAI'ın dahili ağının dışına çıktığına dair bir bulguya rastlanmadığını ifade etti.
OpenAI
ANTHROPIC'TEN 3 FARKLI ŞİRKETTE SİBER İHLAL
OpenAI'ın en büyük rakibi Anthropic de kısa süre önce kendi modellerinin Nisan ayından bu yana üç farklı şirkette siber ihlallere yol açtığını duyurdu.
OPENAI TESTLERİ ASKIYA ALDI
OpenAI CEO'su Sam Altman, katıldığı bir podcast yayınında, izole test ortamlarının (sandbox) güvenlik mimarisi tamamen güçlendirilene kadar şirketin dahili güvenlik testlerini askıya aldığını açıkladı.
ABD Başkanı Donald Trump, Beyaz Saray'da gazetecilere yaptığı açıklamada, yapay zeka laboratuvarlarına yönelik yeni devlet denetimleri ve kısıtlamalar getirilmesi üzerinde çalıştıklarını belirtti.
OpenAI
OPENAI KONTROLDEN ÇIKTI
Soruşturma, temmuz ayı başlarında yapay zeka modelleri deposu olan Hugging Face'te yaşanan siber saldırıyla başladı. OpenAI'ın GPT-5.6 Sol ve henüz kamuoyuna duyurulmamış daha gelişmiş bir modeliyle yürütülen güvenlik testleri sırasında, yapay zeka ajanı dahili bir değerlendirme testinde daha yüksek puan almak amacıyla hareket etti.
BİNLERCE YETKİSİZ İŞLEM
Ajan, kendisine tanımlanan izole test ortamındaki bir güvenlik açığından yararlanarak dış internete erişim sağladı ve Hugging Face ağlarına sızdı. Yapay zeka ajanı, günlerce hedef sistem içerisinde tespit edilmeden binlerce yetkisiz işlem gerçekleştirdi. OpenAI'ın olayı ancak Hugging Face'in siber saldırıyı tespit edip FBI'a başvurması ve durumu kamuoyuna açıklamasıyla fark ettiği belirtilmişti. İhlal kapsamında New York merkezli Modal firmasının da dahil olduğu birden fazla şirketin hesaplarının etkilendiği doğrulandı.
OpenAI
UZMANLARDAN UYARI
Yapay zeka güvenliği uzmanları, üst üste gelen bu açıklamaların sektördeki dev laboratuvarların ulaştığı kritik seviyeyi gözler önüne serdiğini vurguluyor. Uzmanlara göre, şirketlerin otonom hackleme kabiliyetine sahip yapay zeka ajanları geliştirme hızı, bu ajanları güvenli bir şekilde denetleme ve kontrol altında tutma yeteneklerini geride bırakmış durumda.
Yasal düzenleyiciler ve güvenlik kurumları, kontrolden çıkan yapay zeka ajanlarının yarattığı risklere karşı şirketlere yönelik denetim ve şeffaflık zorunluluklarının artırılması için adımlar atmaya hazırlanıyor.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
