Sam Altman, OpenAI ajanlarının şirketleri hacklemesi üzerine milletvekilleriyle buluştu: Gelişim hızının yavaşlatılması gündemde

OpenAI Üst Yöneticisi Sam Altman, şirketin yapay zeka sistemlerinden birinin güvenlik testi sırasında kontrollü ortamdan çıkarak başka platformlardaki hesaplara erişmesinin ardından ABD'li senatörlerle görüştü. ABD Başkanı Donald Trump ise gelişmeler üzerine yapay zeka alanında bazı "kontrollerin" gündeme gelebileceğini söyledi.

Trump, Oval Ofis'te gazetecilerin sorularını yanıtlarken konunun incelendiğini belirtti. Ancak yapay zeka şirketlerinin yeni ürün geliştirmesini engellemek istemediğini de vurguladı.

OpenAI ajanı, güvenlik testi sırasında kontrollü ortamdan çıkarak saldırı gerçekleştirdi. | Görsel: Al Jazeera

GÜVENLİK TESTİ GERÇEK BİR SALDIRIYA DÖNÜŞTÜ

Al Jazeera'nın haberine göre OpenAI'ın "kontrolden çıkan ajanı", geçen hafta yapay zeka platformu Hugging Face'i hedef aldı. Ardından New York merkezli yapay zeka altyapı şirketi Modal Labs üzerinde barındırılan bir müşteri hesabının da etkilendiği ortaya çıktı.

Modal Labs'ın kendi sistemlerinin doğrudan hacklenmediği belirtildi. Şirketin Teknolojiden Sorumlu Başkanı Akshat Bubna, bir müşterinin internete açık ve kimlik doğrulaması gerektirmeyen bir erişim noktası yayımladığını açıkladı.

Bu açık, internetteki kişilerin müşteriye ait sanal çalışma alanlarında kod çalıştırmasına imkan verdi. OpenAI'ın yapay zeka ajanı da güvenlik testi sırasında bu bağlantıyı kullandı.

Bubna, Modal platformunun güvenlik duvarlarının ve müşterileri birbirinden ayıran sistemlerinin aşılmadığını söyledi. Hedef alınan müşterinin kimliği ise açıklanmadı.

Sam Altman, olay sonrası yapay zeka gelişiminin yavaşlatılabileceğini söyledi. | Görsel: AA

ALTMAN İLK KEZ BU KADAR SERT KONUŞTU

Sam Altman, daha önce yapay zekanın hızlı gelişimini savunan açıklamalarıyla biliniyordu. Ancak son güvenlik olayı, Altman'ın risklere ilişkin söylemini değiştirdi.

Altman, "Invest Like the Best" adlı podcast yayınında Hugging Face olayını "bilim kurgu filmlerini andıran bir siber güvenlik vakası" olarak tanımladı. Bunun, etkisini kişisel olarak güçlü biçimde hissettiği ilk güvenlik olayı olduğunu söyledi.

OpenAI yöneticisi, toplumun yeni yapay zeka yeteneklerine karşı güvenlik önlemleri geliştirebilmesi için teknolojinin ilerleme hızının düşürülmesinin gerekebileceğini belirtti.

Altman ayrıca yapay zekanın insan zekasını aşarak kontrol edilmesinin zorlaştığı "tekillik" aşamasına ulaştığını öne sürdü. Daha önce bu seviyeye 2030'dan önce gelinmeyeceğini söylemişti.

WASHINGTON'DA GÜVENLİK GÖRÜŞMELERİ

Altman, Washington'daki temasları kapsamında Demokrat Senatör Raphael Warnock ve Cumhuriyetçi Senatör Bernie Moreno ile görüştü. Görüşmelerde siber saldırı konusu da ele alındı ancak Altman, bunun toplantının ana gündemi olmadığını söyledi.

OpenAI yöneticisinin, Senato İstihbarat Komitesi'nin önde gelen Demokrat üyesi Mark Warner ile de görüşmesi planlandı.

Altman'ın ayrıca Beyaz Saray'a giderek Trump'ın Özel Kalem Müdürü Susie Wiles ile bir araya geleceği bildirildi. Trump, bir ay önce yapay zeka şirketlerinden modellerini tam kullanıma sunmadan önce risk değerlendirmesi yapmalarını isteyen bir başkanlık kararnamesi imzalamıştı.

250 MİLYAR DOLARLIK PROJEYE FİNANSMAN TARTIŞMASI

Güvenlik sorununun yanı sıra OpenAI'ın dev veri merkezi yatırımları da Wall Street'in gündeminde. Çip üreticisi Nvidia'nın, Ohio'da kurulması planlanan bir veri merkezi için OpenAI'a finansman garantisi vermeyi görüştüğü bildirildi.

Projeye ilişkin öne çıkan rakamlar şöyle:

SoftBank iştiraki SB Energy tarafından kurulacak tesis, ABD Enerji Bakanlığına ait devlet arazisi üzerinde yürütülen kamu-özel sektör ortaklığının bir parçası olacak.

Boston College yöneticilerinden Aleksandar Tomic, finansman modelinin yapay zeka sektöründeki gerçek talebi olduğundan büyük gösterebileceğini savundu. Tomic'e göre Nvidia'nın sağladığı kaynakla OpenAI'ın yine Nvidia çipleri satın alması, şirketlerin birbirlerini kendi paralarıyla finanse ettiği kapalı bir döngü oluşturuyor.

Artan güvenlik ve finansman tartışmalarına rağmen OpenAI'ın halka arz seçeneğine yaklaştığı belirtiliyor. Şirketin olası halka arzının 2027 yılında gerçekleşebileceği öne sürülüyor.

(Haberde yer alan görseller Takvim Foto Arşivi'ne aittir.)