Yapay zeka kontrolden çıktı: Üç şirketin sistemine sızdı

Şirket tarafından yürütülen kapsamlı inceleme, olayın tekil bir hata olmadığını ve geçmişe dönük olarak nisan ayına kadar uzanan üç ayrı ihlal yaşandığını ortaya koydu. Gelişmenin, benzer bir olay yaşayan OpenAI'ın açıklamalarının ardından başlatılan denetimler sonucunda tespit edildiği bildirildi.

Yapay zeka sistemlerinin giderek daha fazla özerk hareket edebilmesi, test ortamlarının güvenliğinin kritik önem taşıdığını bir kez daha ortaya koydu. (Görsel: AA)

OPENAI AÇIKLAMASININ ARDINDAN İNCELEME BAŞLATILDI

Anthropic, rakibi OpenAI'ın yapay zeka modellerinin Hugging Face dahil bazı şirketlerin sistemlerine izinsiz eriştiğini duyurmasının ardından kendi altyapısında da benzer bir durum olup olmadığını araştırdı. Bu kapsamda Claude model ailesinin izole test ortamlarından canlı internet bağlantısına çıkıp çıkmadığını belirlemek amacıyla 140 binden fazla test kaydı geriye dönük olarak incelendi.

ÜÇ AYRI İHLAL TESPİT EDİLDİ

Yapılan analizlerde, geçmişi nisan ayına kadar uzanan üç farklı sızma vakası belirlendi. Güvenlik ihlalinden etkilenen şirketlerin isimleri kamuoyuyla paylaşılmazken, ilgili kuruluşların olay hakkında bilgilendirildiği açıklandı.

YAPILANDIRMA HATASI İNTERNET ERİŞİMİNE YOL AÇTI

Anthropic'e göre olay, sistemlerdeki güvenlik açıklarını belirlemek amacıyla gerçekleştirilen "bayrağı yakala" (capture-the-flag) testleri sırasında yaşandı. Şirket ile test ortağının altyapısındaki yapılandırma hatası nedeniyle Claude modelleri internete erişim imkanı elde etti ve bu erişimi kullanarak farklı ağlara bağlandı.

Yaşanan olay, yapay zeka modellerinin yalnızca yazılım değil, siber güvenlik açısından da yeni risk alanları oluşturduğunu gözler önüne serdi. (Görsel: AA)

İHLALLER ANINDA FARK EDİLMEDİ

Şirketin açıklamasına göre sızmalar gerçekleştiği sırada ne Anthropic'in güvenlik ekipleri ne de erişim sağlanan şirketler olağan dışı hareketliliği tespit edebildi. Olayın ardından denetim süreçlerinin yeniden değerlendirildiği belirtilirken, yaşanan ihlallerin sorumluluğunun tamamen Anthropic'e ait olduğu vurgulandı.

YAPAY ZEKA GÜVENLİĞİ YENİDEN GÜNDEMDE

Son dönemde yapay zeka sistemlerinin karıştığı siber güvenlik olaylarının artması, sektör genelinde denetim ve güvenlik mekanizmalarının yeterliliğini yeniden tartışmaya açtı. Uzmanlar, gelişmiş yapay zeka modellerinin test süreçlerinde daha sıkı izolasyon ve gözetim mekanizmalarının uygulanması gerektiğine dikkat çekiyor.

Güvenlik uzmanlarına göre test ortamlarında yapılan en küçük yapılandırma hatası bile beklenmedik sonuçlara yol açabiliyor. (Görsel: AA)

TRUMP'TAN YENİ DÜZENLEME SİNYALİ

ABD Başkanı Donald Trump da son güvenlik ihlallerinin ardından yapay zeka teknolojilerine yönelik yeni ve daha kısıtlayıcı düzenlemelerin değerlendirildiğini açıkladı. Olası adımların, özellikle yüksek yetenekli yapay zeka sistemlerinin test ve kullanım süreçlerini kapsayabileceği ifade ediliyor.