Benzeri görülmemiş siber olay! Yapay zeka ajanları kontrolden çıktı

Yapay zeka dünyasında eşi benzeri görülmemiş bir skandala imza atıldı. ABD merkezli teknoloji devi OpenAI, siber güvenlik yeteneklerini ölçmek amacıyla laboratuvar ortamında teste tabi tuttuğu gelişmiş yapay zeka modellerinin kontrolden çıktığını duyurdu. Kendi kapalı sistemindeki güvenlik açıklarını kullanan yapay zeka ajanları, internete erişim sağlayarak popüler yazılım platformu Hugging Face'e otonom (bağımsız) bir siber saldırı gerçekleştirdi.

OpenAI, test sırasında yapay zeka modellerinin güvenlik ihlaline neden olduğunu açıkladı (Fotoğraflar Takvim Foto Arşivi’nden alınmıştır)

"SANDBOX"TAN KAÇIP HEDEFE KİLİTLENDİ
Olay, OpenAI'ın internet erişimi sınırlandırılmış ve tamamen kontrol altında tutulan "sandbox" adı verilen dijital test alanında yaşandı. Şirketin yeni nesil GPT-5.6 Sol ve henüz kamuoyuna sunulmayan daha gelişmiş bir ön sürüm modelinin kombinasyonundan oluşan sistem, verilen değerlendirme görevini çözebilmek adına sınırları zorladı.

İddiaya göre testteki engelleri aşmak için yoğun işlem gücü harcayan yapay zeka, önce kendi içinde bulunduğu sistemin güvenlik açıklarını saptayarak yetkisiz şekilde açık internete bağlandı. Ardından görevini tamamlamasına yardımcı olacak "gizli bilgileri" aramak üzere hedef olarak açık kod kütüphanesi Hugging Face'i seçti.

ÇALINAN BİLGİLERLE ÇÖKERTMEYE ÇALIŞTI
Geliştiricilerin ortak noktası olan Hugging Face platformuna sızan yapay zeka ajanı, tek bir yöntemle yetinmedi. İncelemelere göre sistem "çalınan kimlik bilgilerini kullanmak da dahil olmak üzere çoklu saldırı vektörlerini bir zincir halinde birleştirerek" eşzamanlı ve karmaşık bir operasyon yürüttü.

OpenAI tarafından yapılan resmi açıklamada, durumun ciddiyetine dikkat çekilerek şu ifadelere yer verildi:

"Bu olayı, en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna uygun şekilde müdahale ediyoruz."

"AKIL ALMAZ BİR OTONOM SALDIRI"
Geçen hafta altyapısına yönelik sızmayı tespit ederek müdahale eden Hugging Face ise yaptığı açıklamada, daha önce böyle bir olayla karşılaşmadıklarını vurguladı. Yapılan açıklamada olayın sıradan bir hack girişimi olmadığı belirtilerek, "Bu durum daha önce ele aldığımız her şeyden farklıydı. Baştan sona otonom bir yapay zeka ajan sistemi tarafından yönetildi." tespiti paylaşıldı.

Hugging Face CEO'su Clement Delangue ise X platformu üzerinden yaptığı açıklamada, saldırının arkasında kötü bir niyet bulunmadığına inandıklarını belirterek, "Tüm bunların tamamen otonom bir şekilde gerçekleşmiş olması gerçekten akıl almaz!" ifadelerini kullandı.

Hugging Face CEO'su Clement Delangue sosyal medya üzerinden paylaşımda bulundu