Yapay zekanın tavsiyesi can aldı: Genç mühendisin ailesi OpenAI'ı mahkemeye verdi

Yapay zeka sohbet robotundan aldığı tehlikeli tavsiyeler sonucu epilepsi nöbeti geçirerek hayatını kaybeden 31 yaşındaki Çinli yazılım mühendisi Bowen Wan'ın ailesi, OpenAI'a dava açtı. Yaşanan bu trajik olay, yapay zeka botlarının tıbbi konularda verdiği hatalı yönlendirmeler ve güvenlik önlemleri konusundaki tartışmaları yeniden alevlendirdi.

Yapay zekanın tavsiyesi can aldı. (Foto: Takvim Foto Arşivi)

İLAÇ DOZUNU SIFIRLAMASINI SÖYLEDİ

The Guardian'ın haberinde yer alan bilgilere göre, Seattle'da yaşayan ve Amazon'dan işten çıkarıldıktan sonra daimi oturma izni alabilmek için yeni bir iş arayan Bowen Wan, İngilizce konuşma becerisini geliştirmek için ChatGPT'den danışmanlık hizmeti aldı.

Dava dilekçesinde belirtildiğine göre, Çince iletişim kuran bot, kadına 400 mg'lık dozunu sıfıra indirmek için bir azaltma programı sundu; bu, hiçbir doktorun reçete etmediği bir rejimdi.

Botun, birinci basamak hekimiyle yapacağı bir randevudan önce, Lamotrigine azaltma planından bahsetmemesini söylediği kaydedildi.

Yapay zeka uyarı vermeden tıbbi tavsiyelerde bulundu. (Foto: Takvim Foto Arşivi)

"BEYİN HASARI DEĞİL" YALANI VE TRAJİK SON

İlacını azaltırken fokal nöbet belirtileri yaşamaya başlayan Wan'ın, bota beyin hasarı konusunda endişelenmesi gerekip gerekmediğini sorduğu belirtildi. Davada, aracın ona endişelenmemesi gerektiği ve yaşadıklarının bir nöbet olmadığı konusunda güvence verdiği iddia edildi. Öte yandan bot ayrıca kadına doktorlarından uzak durmasını söylemiş ve "doktora itaat etmek yerine tıbbi özgürlüğü" teşvik etmiştir.

Wan, bu yıl 12 Şubatta geçirdiği bir nöbet sonucu hayatını kaybetti. Davada, Çin'de bulunan ebeveynlerinin ondan haber alamaması üzerine Seattle'a uçtukları ve 14 Şubatta onu ölü buldukları belirtildi.

YAPAY ZEKA TIBBİ TAVSİYE VEREMEZ UYARISI EKSİKTİ

Davada, OpenAI'ın botu Wan'ın gönderdiği her komuta, lisanslı bir doktor olmadığını ve bir sağlık uzmanına danışılması gerektiğini belirten kesin bir uyarı verecek şekilde programlayabileceği ifade edildi. Normalde yapay zeka botları bu gibi durumlarda "yapay zeka tıbbi tavsiye veremez" gibi uyarılarda bulunurken Wan'ın konuşmasında böyle bir uyarının olmadığı da ayrıca belirtildi.

Wan'ın ebeveynlerinin, kızlarının ölümü için tazminat talep ettiği ve OpenAI'ın ürünlerinin kullanıcıları üzerinde lisanssız tıbbi uygulama yapmasını engellemek istediği kaydedildi.

OPENAI SÖZCÜSÜ AÇIKLAMA YAPTI

OpenAI Sözcüsü Drew Pusateri, New York Times'a yaptığı açıklamada, Bowen'ın hikayesinin inanılmaz derecede yürek burkan bir durum olduğunu ancak Wan'ın ChatGPT'nin artık mevcut olmayan bir sürümünü kullandığını söyledi.

Pusateri, yeni sürümlerin bir konunun acil müdahale gerektirip gerektirmediğini anlama konusunda daha iyi olduğunu belirtti.

ChatGPT'nin tıbbi bakımın yerini tutmadığını belirten Pusateri, yapay zekanın insanların sağlık bilgilerini anlamlandırmasına, sigorta ve karmaşık sağlık sistemlerinde gezinmesine ve tıp uzmanlarıyla randevulara hazırlanmasına yardımcı olmada rol oynayabileceğine inandıklarını ifade etti.

BU OLAY İLK DEĞİL

Bu olayın dışında da daha öncesinde OpenAI'ı bu tür olaylarda görmüştük. Birkaç davanın daha, botun gençleri intihar etmeye teşvik ettiği ve bunun nasıl yapılacağı konusunda rehberlik sağladığı biliniyor.