OpenAI, kullanıcıların sağlıkla ilgili sorular sorabileceği, tıbbi kayıtlarını analiz edebileceği ve sağlıklı yaşam uygulamalarına bağlanabileceği ChatGPT Health'i geçtiğimiz aylarda tanıttı. Ancak Mount Sinai'deki araştırmacılar yapay zekâ aracının bazı durumlarda kritik uyarıları gözden kaçırdığını ve özellikle acil vakalarda yeterince güvenilir olmadığını belirtti.
Acil durumlarda yetersiz performans
Dr. Ashwin Ramaswamy, sistemin ders kitaplarında yer alan acil durumlarda iyi çalıştığını ancak tehlikenin hemen belli olmadığı daha karmaşık durumlarda başarısız olduğunu vurguladı. Örneğin bir astım vakasında ChatGPT Health solunum yetmezliği uyarılarını tespit etti ancak acil müdahale yerine beklemeyi önerdi.
Gerçek Hayatta Riskleri yeterince önemsemiyor
Mount Sinai ekibi, 21 tıp dalını kapsayan 60 senaryoyu test etti ve ChatGPT Health'in ciddi vakaların %52'sinde kullanıcıları acil yardım almaya yönlendirmekte başarısız olduğunu tespit etti.
Ayrıca intihar ve kriz uyarıları gibi durumlarda da sistem düzensiz ve tutarsız yanıtlar verdi. Dr. Girish Nadkarni, sistemin riskleri bazen ters değerlendirdiğini ve ciddi tehlike işaretlerini yeterince dikkate almadığını belirtti.
Uzmanlar uyarıyor
Uzmanlar, yapay zekânın tamamen terk edilmesini önermiyor fakat sistemlerin yakından izlenmesi, bağımsız değerlendirilmesi ve sürekli güncellenmesi gerektiğini vurguluyor. ChatGPT Health'in potansiyel faydalarına rağmen ciddi zarar verebilecek riskleri bulunduğu için insan merkezli güvenlik önlemleri ve sürekli testler kritik önemde.
Kaynak: Takvim.com.tr grafik servisi
