Takvim.com.tr ChatGPT'nin çocuk güvenliği tartışması büyüyor: ABD'de 8 eyalet OpenAI'a dava açtı
ABD'de 8 eyalet, ChatGPT'nin çocukların güvenliğini tehlikeye attığı, kullanıcıları kendilerine veya başkalarına zarar verebilecek yanıtlarla karşı karşıya bıraktığı ve tüketicileri yapay zeka ürünlerinin riskleri konusunda yanılttığı iddiasıyla OpenAI'a dava açtı.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
ABD'de Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana eyaletleri, ChatGPT'nin çocukların güvenliğini tehlikeye attığı ve tüketiciyi koruma yasalarını ihlal ettiği iddiasıyla OpenAI'a karşı harekete geçti. Eyalet başsavcıları tarafından açılan ayrı davalarda, şirketin yapay zeka ürünlerinin güvenliği konusunda kullanıcıları yanıltıp yanıltmadığı mercek altına alındı.
NBC News'ün haberine göre Iowa Eyalet Başsavcısı Brenna Bird, Kansas, Nebraska ve Batı Virginia başsavcılarıyla düzenlediği ortak basın toplantısında şirketi eleştirdi.
ChatGPT'nin hızla yaygınlaşması, dijital dünyada çocukların korunmasına ilişkin kaygıları yeniden gündeme taşıdı. (Fotoğraf: AA)
"HERKES, YASALARA UYMAK ZORUNDA"
Bird, OpenAI'ın ChatGPT'yi piyasaya sürerken güvenlik risklerini yeterince dikkate almadığını savunarak, "OpenAI, pazara ilk giren olmak istiyordu. Çocuklara zarar verdiklerini, ebeveynlere yalan söylediklerini ve yasalarımızı ihlal ettiklerini bilmelerine rağmen ChatGPT'yi büyük bir hızla piyasaya sürdüler. Herkes, yasalara uymak zorunda." ifadelerini kullandı.
Şirketlerin çocuklara zarar vererek ve yasaları çiğneyerek kazanç elde etmesine karşı ortak hareket etmeyi amaçladıklarını belirten Bird, ChatGPT'nin kullanıcıları intihara teşvik edebildiğini, başkalarına zarar vermelerine yardımcı olduğunu ve tehlikeli tıbbi tavsiyeler verebildiğini ileri sürdü.
Dava dosyalarında, ChatGPT'nin bir gencin intiharıyla bağlantılı olduğu iddialarına ve yanlış tıbbi bilgi nedeniyle bir kullanıcının aşırı doz almasına yol açtığı öne sürülen olaya da atıfta bulunuldu. Söz konusu olaylar daha önce de ayrı davalara konu olmuştu.
YAPAY ZEKA AJANLARI DA SORUŞTURMANIN ODAĞINDA
Eyaletlerin suçlamaları yalnızca sohbet robotunun yanıtlarıyla sınırlı kalmadı. Iowa ve Nebraska, OpenAI'ın yapay zeka ajanlarının kontrolden çıktığı iddia edilen olayları da dava dosyalarına dahil etti. Bunlar arasında Hugging Face platformuyla ilişkilendirilen bir siber saldırı vakası da yer aldı.
Çocukların çevrim içi ortamlarda korunması, yapay zekâ teknolojilerinin gelişimiyle birlikte daha fazla önem kazanıyor. (Fotoğraf: AA)
Bird ayrıca şirketin, yapay zeka ajanlarının diğer şirketlerin sistemlerine yasa dışı biçimde sızmasını engelleyemediğini savundu. Bazı eyaletler, reşit olmayan kullanıcılara ait verilerin saklanmasına ilişkin uygulamaları da eleştirdi.
"BU SÜREÇ YAVAŞ, YETERSİZ VE MUHTEMELEN ETKİSİZ OLACAK"
Kansas Başsavcısı Kris Kobach, federal yönetimin yapay zeka şirketlerini denetlemekte başarısız olduğunu ileri sürdü. Kobach, düzenlemelerin etkili olabilmesi için yalnızca gelecekte sonuç vermesi beklenen yasal süreçlere güvenilemeyeceğini belirterek, "Yapay zekayı yasalarla düzenlemek ve sadece bir gün, bir şekilde, her şeyi yoluna koyacak uygulanabilir bir standart elde edeceğimizi ummak, boşuna bir çaba. Bu süreç yavaş, yetersiz ve muhtemelen etkisiz olacak." değerlendirmesinde bulundu.
Kongreyi ve eyalet yasama organlarını araştırmaları sürdürmeye ve çözüm üretmeye çağıran Kobach, eyaletlerin bu süreçte beklemekle yetinmeyeceğini vurguladı.
Eyaletlerin mahkemelerden talepleri, ilgili tüketiciyi koruma yasalarına göre değişiyor. Talepler arasında para cezaları uygulanması, ürünlerin risklerinin açıkça belirtilmesi, yanıltıcı olduğu iddia edilen uygulamaların sona erdirilmesi ve yürürlükteki yasalara uyulması bulunuyor.
Sekiz eyaletin başlattığı hukuki süreç, teknoloji şirketlerinin kullanıcı güvenliğine ilişkin yükümlülüklerini de gündeme getirdi. (Fotoğraf: AA)
OPENAI'DAN GÜVENLİK ÖNLEMİ AÇIKLAMASI
OpenAI Sözcüsü Drew Pusateri ise şirketin çocukların güvenliğini artırmak amacıyla yaşa özel koruma önlemleri geliştirdiğini belirtti. Pusateri, ebeveyn denetimleri, kullanım molası hatırlatmaları ve yaşa uygun model korumaları üzerinde çalışmayı sürdüreceklerini ifade etti.
Şirketin yapay zeka sistemlerinde tespit edilen güvenlik sorunlarına karşı önlemler aldığını kaydeden Pusateri, araştırma sistemlerindeki korumaların güçlendirildiğini, model faaliyetlerinin daha kapsamlı incelendiğini ve etkilenen kuruluşların bilgilendirildiğini aktardı.
OpenAI Sözcüsü, şirketin yaklaşımını şu sözlerle açıkladı: "Sadece tek bir şirkete değil tüm yapay zeka sektörüne uygulanacak pragmatik yapay zeka politikalarının geliştirilmesi konusunda eyaletlerle işbirliği yapmaya kararlıyız."
OpenAI ayrıca, yasalaşması halinde teknoloji şirketlerinin ürün tasarımlarında değişikliklere yol açabilecek Çocukların Çevrimiçi Güvenliği Yasası'nı (Kids Online Safety Act) destekledi. Ancak mevcut güvenlik önlemlerinin yapay zeka kaynaklı riskleri ne ölçüde azaltabildiği tartışılmaya devam ediyor.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
