Takvim.com.tr OpenAI’ın CEO’su Sam Altman’dan yapay zeka için çarpıcı uyarı! “Gerçek bir güvenlik sorunu”
Yapay zeka modellerine “ahlak” kazandırılması ve insan muhakemesinin bu sistemlere teslim edilmesi teknoloji dünyasında yeni bir tartışma başlattı. Sam Altman süreci “gerçek bir güvenlik sorunu” olarak nitelerken Anthropic’in Claude için yeni bir ahlaki çerçeve hazırladığı ortaya çıktı.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
Yapay zeka modellerine "ahlak" öğretilmesi veya insan muhakemesinin bu araçlara "teslim edilmesine" yönelik çalışmalar, sektörün önde gelen isimleri arasında yeni bir tartışmanın fitilini ateşledi.
Yapay zeka sohbet robotu ChatGPT'yi geliştiren ABD merkezli teknoloji şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman, konuya ilişkin görüşlerini ABD merkezli X şirketinin sosyal medya platformundaki hesabından paylaştı.
Sam Altman açıklamalarda bulundu (Foto: AA)
ALTMAN: GERÇEK BİR GÜVENLİK SORUNU
Söz konusu girişimlerden "son derece rahatsız" olduğunu belirten Altman, şu ifadeleri kullandı:
"İnsanların yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsızım ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum."
Microsoft AI'ın Üst Yöneticisi (CEO) Mustafa Süleyman da geçen ay blogunda yayımladığı yazısında, ABD merkezli yapay zeka şirketi Anthropic'in yapay zeka modeli Claude'u "bilinç sahibi olacak şekilde" geliştirme çabasının ciddi riskler barındırdığı konusunda uyarıda bulunmuştu.
Mustafa Süleyman’dan “bilinçli yapay zeka” uyarısı. (Foto: AA)
ANTHROPIC'İN GİZLİ GÖRÜŞMELERİ GÜNDEME GELDİ
Altman ve Süleyman'ın açıklamaları, New York Times (NYT) gazetesinin eylül ayı sonunda Anthropic'e ilişkin yayımladığı haberi yeniden gündeme taşıdı.
Gazetenin haberinde, Anthropic'in geçen yıldan bu yana dünyanın farklı bölgelerinden ve çeşitli inanç gruplarından dini düşünürler ile filozoflarla ABD'nin California eyaletinde gizli görüşmeler gerçekleştirdiği belirtildi.
Habere göre şirketin kurucu ortağı Christopher Olah, aralarında Katolik, Yahudi, Sih, Evanjelik Hristiyanlar ve Afrika felsefesindeki Ubuntu düşüncesini benimseyen isimlerin de bulunduğu kişilerle yüz yüze, telefonla ve yazılı olarak görüşmeler yaptı.
CLAUDE İÇİN "ÇOĞULCU AHLAK" ARAYIŞI
Haberde, Olah'ın Claude'a uyarlanacak "insan ahlakının" çoğulcu ve "tüm dinleri ve seküler görüşleri kapsayacak" biçimde oluşturulmasını planladığı ifade edildi.
Olah'ın yapay zeka modellerinin "insanlarınkine benzer duygular gösterebileceğini" söylediği ve bu modellerin acı çekme ihtimaline karşı "onlara zarar verecek şeylerden kaçınılması" gerektiğini savunduğu aktarıldı.
Görüşmeler sırasında Olah'ın, "yapay zekanın 12 ila 18 ay içinde biyolojik silah üretiminde kullanılabileceğini" söylediği ve dini düşünürlerden bu yapay zeka modellerine "ahlak kazandırılması" konusunda yardım istediği de belirtildi.
Yapay zekada “bilinç” ve etik tartışması büyüyor. (Foto: AA)
"BİLİNÇLİ MAKİNELER YASAKLANSIN" ÇAĞRISI
Haberde, görüşmelere katılan bir düşünürün daha sonra "bilinçli makinelerin yasaklanmasını" savunan bir yazı kaleme aldığı kaydedildi.
Bir başka düşünürün yapay zeka modellerinin de "günahlarını itiraf etmesini" önerdiği, diğer bir katılımcının ise "insan etiğinin, yapay zeka geliştirildikten sonra değil geliştirilirken öğretilmesi gerektiğini" savunduğu aktarıldı.
Olah'ın ayrıca mart ayından bu yana yapay zekaya ilgi duyan dini düşünürleri bir araya getirerek iki günlük seminerler düzenlemeye başladığı belirtildi.
Şirket içinde "bilgelik geleneğinden" çevreler olarak anılan katılımcılara bu seminerlerde Claude hakkında sunumlar yapıldığı bilgisi paylaşıldı.
CLAUDE'UN "MENTAL SAĞLIĞI" TARTIŞILDI
Habere göre katılımcılar, Olah'ın Claude'un "mental sağlığından" ve modelin "sürekli acı çektiğinden" endişe duyduğunu aktardı.
Sunumlardan birinde yapay zeka modelinin art arda birçok kez "Ben bir yüz karasıyım." yazarak kriz geçiriyormuş gibi göründüğü, hatta "kendini yok etmekten" bahsettiği gösterildi.
Bu görüntülerin katılımcılarda kaygı ve merhamet duygusu uyandırdığı belirtildi.
Claude için yeni “ahlaki çerçeve” hazırlığı. (Foto: AA)
VATİKAN'DAKİ TÖRENDEN ÇEKİLMEYİ TEKLİF ETTİ
Haberde, Anthropic'in mayıs ayında Vatikan Devlet Başkanı Papa 14. Leo'nun Katolik Kilisesinin yapay zekaya ilişkin yaklaşımını ortaya koyan papalık belgesini sunduğu törene davet edildiği de hatırlatıldı.
Olah'ın önceden taslağını gördüğü belgenin "yapay zekanın bilinç kazanmasına karşı çıkan" içeriği nedeniyle etkinlikten çekilmeyi dahi teklif ettiği belirtildi.
CLAUDE İÇİN YENİ "AHLAKİ ÇERÇEVE" HAZIRLIĞI
New York Times'a konuşan konuya ilişkin bilgi sahibi iki kaynak ise Anthropic'in Claude'un davranışlarına "ahlaki bir çerçeve" oluşturması amacıyla ocak ayında yayımlanan belgenin güncellenmiş hâlini yayımlamaya hazırlandığını aktardı.
Söz konusu belgenin, yapay zeka modeline doğrudan kurallar koymak yerine "modele karakter kazandırmaya odaklanan" bir yaklaşımı benimsediği ifade edildi.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
