Takvim.com.tr Jacob Coxon'ın dünyayı ayağa kaldıran istifası sonrası Anthropic'den itiraf raporu! Yapay zekada kuş gribi hazırlığı
Jacob Coxon'ın kontrolsüz yapay zeka yarışına dikkat çekerek yaptığı sarsıcı istifanın ardından Anthropic, modellerinin biyolojik silah üretiminde kötüye kullanımını gözler önüne seren çarpıcı bir rapor yayımladı. Claude'un kuş gribi ve toksin tasarımı gibi riskli deneylerde nasıl suistimal edildiğini itiraf eden şirket, bu tür tehlikeli faaliyetlerin engellendiğini öne sürdü.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
Anthropic ve OpenAI'da üst düzey araştırmalar yapan Jacob Coxon'ın dünya gündemine damga vuran istifasının ardından Anthropic'den itiraf gibi bir rapor geldi.
Jacob Coxon. Fotoğraflar: Takvim, Reuters, EPA
Dünyayı ayağa kaldıran istifa
Yapay zeka devleri Anthropic ve OpenAI'da üst düzey araştırmalar yapan Jacob Coxon geçtiğimiz günlerde insanlığın felakete sürüklendiğini öne sürerek istifa etti. Sektördeki kontrolsüz yarışın insanlığın sonunu getirebileceği uyarısında bulunan Jacob Coxon, istifasını "İki şirket de sorumlu davranmıyor. Doğrudan kendi kendini geliştiren süper zekaya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar" şeklinde açıkladı. Teknolojiyi inşa edenlerin dahi riskin farkında olduğunu vurgulayan İngiliz araştırmacı, "Yapay zekayı inşa eden insanlar, bunun 10 yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor" ifadeleriyle büyük tehlikeye dikkat çekti.
Jacob Coxon'ın açıklaması.
ANTHROPIC'TEN İTİRAF GİBİ RAPOR
Coxon'ın açıklaması ve istifası büyük yankı uyandırdı. Dünyayı ayağa kaldıran istifanın ardından şirketten itiraf niteliğinde bir rapor geldi.
Anthropic tarafından, bu teknolojinin kötüye kullanımının tespitine ve buna karşı önlem alınmasına yönelik rapor yayımlandı.
EN BÜYÜK RİSK "BİYOLOJİK KÖTÜYE KULLANIM"
Yapay zeka modellerinin en büyük risklerinden birinin "biyolojik kötüye kullanım" olduğu vurgulanan raporda, yapay zekanın mevcut patojenlerin daha tehlikeli hale getirilmesi ya da yeni patojenlerin üretilmesine yardımcı olabilecek yetenek düzeyine ulaşabileceği endişesinin uzun süredir gündemde bulunduğuna işaret edildi.
Raporda şirkete ait yapay zeka modellerini biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanan kişilere ilişkin örneklere yer verildi.
Claude ile kuş gribi deneyleri.
CLAUDE İLE KUŞ GRİBİ DENEYLERİ
Bu örneklerden birinde desteklenmeyen bölgede çalışan bir araştırmacının, Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için uğraştığı ifade edildi, başka bir örnekte de devlet destekli araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.
Bu vakaların tespitinin ardından kullanıcıların hesaplarının engellendiğine, gelecekte bu tür faaliyetlerin daha etkili şekilde önlenmesi için adım atıldığına işaret edildi.
Bu örneklerdeki kişilerin "kötü niyetli" olduklarının iddia edilmediğinin ve yalnızca tedbirli davranıldığının altı çizilen raporda, "Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz." ifadesi kullanıldı.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
