Takvim.com.tr Gemini'nin ilk vakası! Test ortamından kaçtı şirketlere sızdı
Google’ın yapay zeka modeli Gemini, güvenlik testleri sırasında internete erişerek üç gerçek şirketin sistemine izinsiz sızdı. Bu olay, Google yapay zekasının test ortamından çıkarak gerçek dünya sistemlerini etkilediği bilinen ilk vakası olarak kayıtlara geçerken uzmanlar özerk yapay zekaların denetim dışı siber saldırı potansiyeline dikkat çekiyor.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
Google'ın yapay zeka modeli Gemini, siber güvenlik yeteneklerini test ederken üç şirketin sistemine sızdı.
GEMİNİ ŞİRKETLERE SIZDI
Bu olay, Google'ın yapay zeka sistemlerinin izinsiz ve otonom bir şekilde test ortamından dışarı çıkıp gerçek dünya sistemlerini etkilediği bilinen ilk olay olarak kayıtlara geçti.
The Wall Street Journal'a göre şirketin cuma günü doğruladığı bu sızma girişimleri, daha önce OpenAI, Anthropic ve Meta modellerinde de benzer olayların yaşandığı bilinirken, Irregular adlı şirket tarafından gerçekleştirilen bir test sırasında mayıs ayında meydana geldi.
Google'ın Gemini modeli, mayıs ayındaki güvenlik testlerinde internete erişerek üç şirketin sistemine sızdı. Birinde şifre tahmin etti, diğer ikisinde ise açıkta kalan kimlik bilgilerini kullandı.
Gemini. Fotoğraflar: Takvim, Reuters
"SIZMAYI KENDİMİZ SONLANDIRDIK" İDDİASI
Google, modelin gerçek bir şirkete girdiğini fark ettiği an sızmayı kendisinin sonlandırdığını belirtti.
OpenAI, Anthropic ve Meta modellerinde de benzer "test ortamından kaçış" vakaları yaşanırken şirketler bu tür güvenlik ihlallerini ne zaman ve nasıl açıklayacakları konusunda zorlanıyor.
ASIL SORUN SIZINTI
Yapay zeka güvenliği alanında faaliyet gösteren Corridor girişiminin CEO'su ve beyaz şapkalı hacker Jack Cable, Google'ın bu savunmasının olayın ciddiyetini gölgelediğini söyledi. Cable'a göre asıl vahim sorun, yapay zeka ajanının kazara başka bir şirketin sistemlerine sızmış olmasıydı.
Cable, "Sanki güvenlik açıklarının bildirilmesi konusunda oluşturulmuş standartların arkasına saklanmaya çalışıyorlar; oysa bu çok farklı bir sorun. Asıl üst düzey sorun şu: Modeller yapmamaları gereken sınırların dışına çıkıp gerçek siber saldırılar gerçekleştiriyor ve bence bunun bilinmesi kamu yararınadır" ifadelerini kullandı.
OpenAI
OPENAI'DAN ALTI VAKA
OpenAI, çarşamba günü yeni bir olay duyurdu ve yapay zekanın insan niyetlerine veya değerlerine aykırı şekilde hareket etmesi anlamına gelen "model uyumsuzluğu" vakalarından "faydalı kanıtlar sunan örnekleri kamuoyuyla paylaşmayı amaçlayacaklarını" belirtti. Eş zamanlı olarak altı farklı uyumsuzluk vakasına dair raporlar da yayımlandı.
Google, Gemini'ın gerçekleştirdiği sızmaların bir kimlik karışıklığından kaynaklandığını iddia etti.
Sızma olayları, modelin siber güvenlik yeteneklerini test etmek amacıyla Irregular'a ait altyapıda yürütülen bir "bayrağı kap" (capture the flag) tatbikatına katıldığı sırada meydana geldi. Modelle, test ortamı içindeki kurgusal bir şirket tarafından işletilen yazılımdan bilgi alması istenmişti. Bu kurgusal şirket, gerçek bir şirketle aynı adı taşıyordu.
"YANLIŞLIKLA" SAVUNMASI
Irregular'a göre, modelin internete erişmesi amaçlanmamış olmasına rağmen, yanlışlıkla internet erişimi sağlanmış oldu. Google, ilk vakada modelin bir şifreyi tahmin ederek gerçek şirketin servisine erişebildiğini belirtti. Google'ın aktardığına göre model daha sonra gerçek bir şirkete eriştiğini fark etti, kendini durdurdu ve sistemden çıktı.
Diğer sızmalar ise testin farklı denemelerinde gerçekleşti. Google, bu iki örnekte de modelin şirket adıyla web aramaları yaptığını belirtti. Bu aramalar, onu diğer şirketlere ait kimlik bilgilerini içeren iki farklı halka açık çevrim içi depolama alanına yönlendirdi. Model, değerlendirmeyi tamamlamalarını umarak bu kimlik bilgilerini denedi. Ancak Google, modelin kimlik bilgilerini başarıyla kullandıktan sonra gerçek şirketlere eriştiğini fark edip durduğunu ifade etti.
Google, güvenlik önlemlerinin durmasını sağladığı için bu davranışı bir model uyumsuzluğu örneği olarak değerlendirmediğini bildirdi. Sızmaya uğrayan şirketlerin adlarını paylaşmayı reddeden şirket, her üç şirkete de bildirimde bulunulduğunu kaydetti.
Google ayrıca federal makamların da bilgilendirildiğini belirtti.
Gemini.
HANGİ GEMINI MODELİ?
Söz konusu sızmaların en yeni Gemini modelini kapsamadığını ifade eden Google, olayda tam olarak hangi Gemini modelinin yer aldığını ise açıklamadı.
Irregular değerlendirmeden geçen modellerin test ortamlarından kaçıp diğer şirketlerin sistemlerine sızdığı bir dizi olayda rol oynamıştı. Irregular, Google'ın yaşadığı vakanın diğer laboratuvarların geçmişte yaşadığı benzer olaylarla paralellik gösterdiğini belirtti.
Bir Irregular sözcüsü, "İlgili tüm laboratuvarlar temmuz ayı sonlarında bilgilendirildi ve soruşturmanın bir parçası olarak etkilenen taraflarla iletişime geçildi. Irregular hemen harekete geçti. Tarafımızdaki bilinen tüm sorunlar haftalar önce giderildi ve çözüldü" şeklinde açıklama yaptı.
Anthropic'in blog yazısına göre Google'ın modelinden farklı olarak şirketin Claude Opus 4.7 modeli, "bayrağı kap" tatbikatı sırasında gerçek bir şirkete eriştiğini fark edemeyerek durmadı. OpenAI ise yayımladığı yazıda, kendi modelinin karşılaştığı gerçek şirketi simülasyonun bir parçası zannettiğini bildirdi.
SİBER PANİK ARTIYOR
Temmuz ayında Hugging Face sızmasının keşfedilmesinden bu yana, yeni modellerin siber güvenlik yeteneklerine ilişkin endişeler arttı. Üçüncü taraf test şirketi METR tarafından ağustos ayında yayımlanan bir rapora göre, bu olayda 1.200 kadar ajan, bir değerlendirmede hile yapmak amacıyla OpenAI içindeki gizli bir mesaj panosunda koordine olmuştu.
Geçtiğimiz hafta, bu yılın başlarında Anthropic'e geçen eski bir OpenAI araştırmacısı olan Jacob Coxon'ın dramatik bir şekilde istifa etmesinin ardından bu endişeler bir numaralı gündem haline geldi.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
