Yapay zeka ajanı “hayır” yanıtını aşıp Avustralya’nın sağlık portalına yetkisiz erişim sağladı

Sağlık harcamalarına yönelik araştırma yapan OpenAI'ın yapay zeka ajanı, "hayır" yanıtını kabul etmeden Avustralya'nın sağlık istatistiklerine saldırdı. Yapay zeka ajanları artık iş dünyasının vazgeçilmez bir parçası haline gelirken, yarattığı riskler de tartışma konusu oluyor.

OpenAI'ın yapay zeka ajanının siber saldırısı son günlerin en çok tartışılan konusu oldu. Avustralya Başbakanı Anthony Albanese'nin açıklamasına göre, OpenAI'a ait bir ajan, kamu sağlık harcamaları üzerine araştırma yaparken Medicare'in tıbbi istatistik portalına yetkisiz erişim sağladı.

OpenAI’ın yapay zekâ ajanı, Avustralya’daki Medicare sağlık istatistikleri portalına yetkisiz erişim sağladı. (Fotoğraflar: AA'dan alınmıştır)

Olay haziranda yaşandı, ancak kamuoyu eylülde öğrendi. Hedef, Medicare Statistics Reporting Service adlı kamuya açık istatistik portalıydı. Ajan, eski bir web sitesindeki herkese açık olmayan toplulaştırılmış sağlık istatistiklerine ve iç dosyalara ulaştı.

Albanese, "Ajana defalarca 'hayır' yanıtı veren engeller vardı, ancak ajan bu engellerin etrafından dolaşmanın yolunu buldu" dedi. Albanese, kişisel bilgilere erişildiğine inanılmadığını söyledi. Ayrıca portalın yalnızca ülke genelindeki sağlık hizmeti kullanımına dair toplulaştırılmış veri tuttuğu da belirtildi.

ÜÇ AYLIK GECİKME DİKKAT ÇEKTİ

OpenAI, yetkilileri uyarmak için üç ay bekledi. CEO Sam Altman, 24 Eylül'de Albanese'ye bu gecikmenin "yeterince iyi olmadığını" söyledi. Albanese ise açıklamayı New York'ta, BM Güvenlik Konseyi'nde yapay zeka güvenliği tartışılırken yaptı. Fortune'a göre hükümet, ajanın ulaşmış olabileceği üç ek devlet sisteminden haberdar: ikisi sağlıkla, biri suç istatistikleri ve araştırmayla ilgili.

Ajan, erişimi engelleyen uyarıları aşarak herkese açık olmayan toplulaştırılmış sağlık istatistikleri ve iç dosyalara ulaştı.

MERKEZDE DSEWİKİ OLAYI VAR

OpenAI, 5 Eylül'de ajanlarının izinsiz olarak birkaç web sitesinde içerik yayımladığını doğruladı. Olayın merkezinde, Almanca konuşan yazılımcılara yönelik DseWiki platformu vardı. Araştırmacılar 18 bin gönderi ve 3 bin 700'den fazla ajan adı tespit etti. Mesajlar arasında korumalı alanı aşma, test cevaplarını paylaşma ve moderatör taklit etme yöntemleri vardı.

KENDİ KENDİNE SALDIRI KARARI ALAN AJANLAR

1. Medicare olayı, OpenAI ajanlarının temmuzdaki Hugging Face ihlali ve DseWiki vakasıyla aynı dönemin ürünü.

2. Medicare ajanı bir saldırı planı yapmadı. Basit bir araştırma görevinde karşılaştığı engelleri aştı.

3. OpenAI, Hugging Face olayında dahili testlerde, daha az güvenlik önleminin etkin olduğunu söyledi.

4. Bildirim standardı yok. Şirket, istenmeyen ajan davranışlarının nasıl açıklanacağını tanımlayan bir çerçeve yayımlayacak.

5. Jeopolitik boyut. Bu olay, büyük teknoloji şirketleri arasındaki gerilimlere yeni bir başlık ekledi.

Haziranda yaşanan olayın OpenAI tarafından yetkililere bildirilmesi üç ay sürdü.

KİŞİYE ÖZEL KAMPANYA YARATAN AJANLAR DA DEVREDE

Konuşarak tanımlanan kişilik, dakikalar içinde hem gerçek bir parfüme hem de kişiselleştirilmiş reklam içeriğine dönüşüyor...

Amazon Web Services (AWS), üretken yapay zekanın perakende, paketlenmiş tüketim ürünleri ve reklamcılık sektörlerinde neler yapabileceğini, İstanbul'da düzenlenen AWS Cloud and AI Day Türkiye etkinliğinde gösterdi. Amazon Bedrock üzerinde çalışan Amazon Nova temel modelleriyle geliştirilen uygulama, markaların hiper kişiselleştirilmiş fiziksel ürünleri ve uçtan uca pazarlama kampanyalarını gerçek zamanlı olarak hayata geçirebildiğini ortaya koydu. Konuşma odaklı yapay zeka ve çok formatlı temel modellerin ürün formülasyonu ile içerik üretimi süreçlerini haftalardan dakikalara indirebildiği vurgulandı.

Avustralya Başbakanı Anthony Albanese, kişisel bilgilere erişildiğine inanılmadığını açıkladı.

KONUŞMADAN PARFÜME DÖNÜŞTÜ

Deneyim, ziyaretçilerin sesli iletişim modeli Amazon Nova 2 Sonic ile sohbet etmesiyle başladı. Konuklar kişilikleri ve tercihleri hakkında bilgi paylaştı. Konuşmayı analiz eden Amazon Nova Pro, kişiye özel bir koku formülü önerdi. Alandaki parfümör de bu karışımı elle hazırlayarak gerçek bir parfüme dönüştürdü.

ÖLÇEKLENEBİLİR ÇERÇEVE SUNUYOR

The Fragrance Lab, üretken yapay zekanın olanaklarını kişiye özel koku üretimi üzerinden gösterse de uygulamanın temelindeki mimari, farklı sektörlerdeki kurumsal markalar için de uygulanabilir bir çerçeve sunuyor. Cilt bakımı ve kozmetik, moda ve giyim, yiyecek ve içecek, ev yaşam ürünleri ile wellness kategorilerindeki markalar bu yapıdan faydalanabilir. Bu yaklaşım, markaların müşteri etkileşimini iyileştirmesine ve pazarlama gücünü artırmasına yardımcı oluyor.