Dün bir profesyonelin yıllarını alan işleri bugün saniyeler içinde yapan bir teknolojiyle karşı karşıyayız. Yapay zekâ artık yalnızca bilgisayarların içinde çalışan bir yazılım değil; sağlıkta teşhisten eğitimde kişiselleştirilmiş öğrenmeye, bilimsel araştırmadan üretime kadar hayatın hemen her alanına dokunan yeni bir çağın motoru.
Yapay zekânın en büyük vaadi, insanın kapasitesini artırması. Bill Gates, yapay zekânın sağlık, eğitim ve kamu hizmetlerinde insanların hayatını kolaylaştırabileceğini söylüyor.
GATES'E DİKKAT
Ancak milyarlarca insanı öldürebileceğini de ekliyor. Gates'in Covid-19'daki sözlerini düşünürsek, aslında tahminde bulunmuyor. Maalesef bir gerçeği söylüyor.
Bunun tahmin olmadığını artık biliyoruz. Mesele yapay zekânın insanın yerini alması değil, insanın yapamadığı veya yetişemediği işleri destekleyebilmesi. Yapay zekâ aynı zamanda yanlış ellere geçtiğinde büyük bir güç çarpanına dönüşebilir. Yapay zekâ güvenliği alanında önde gelen isimlerden Geoffrey Hinton ise daha ileri bir uyarıda bulunuyor: İnsanlığın yapay zekâ nedeniyle varoluşsal bir tehditle karşılaşma ihtimaline ilişkin yüzde 10-20 aralığında bir tahminden söz ederken bunun kesin bir öngörü değil, kendi değerlendirmesi olduğunu özellikle vurguluyor.
Yapay zekânın öncülerinden Yoshua Bengio da, bazı yapay zekâ ajanlarının talimatların dışına çıkan ve denetimden kaçmaya çalışan davranışlar sergilediğini savunarak uluslararası güvenlik mekanizmalarının güçlendirilmesi çağrısı yaptı. Buradaki tehlike sadece "robotlar dünyayı ele geçirir mi?" değil. Daha bugünden karşımızda duran meseleler çok daha somut:
GİZLİ BİLGİLER
- Sahte videolarla insanların itibarı yok edilebilir.
- Yapay zekâ destekli siber saldırılarla hastaneler, bankalar veya kritik altyapılar hedef alınabilir.
- Çocuklar ve gençler, gerçek insan ilişkilerinin yerine sürekli kendisini onaylayan yapay zekâ arkadaşlarına bağımlı hale gelebilir.
- Daha da önemlisi, insanın verdiği bir görevi yerine getirirken beklenmedik yöntemler geliştiren sistemlerin nasıl davranacağı her zaman öngörülemeyebilir.
- İnsanların, şirketlerin ve kurumların gizli bilgilerine ulaşabilir.
Bu tartışma artık teknoloji şirketlerinin ofislerinden çıkıp devletlerin en üst makamlarına kadar ulaştı.
ABD Başkanı Donald Trump, 29 Eylül 2026'da Beyaz Saray'da Google, Meta, OpenAI, Nvidia, Anthropic ve xAI gibi şirketlerin yöneticileriyle yapay zekânın güvenliği ve gelişimi üzerine toplantı gerçekleştirdi.
Toplantının ardından şirketlerin kendi iç kontrollerini güçlendirmesi, bağımsız dış denetçilerle çalışması ve yönetim kurulları bünyesinde güvenlik denetimi yapılması konusunda gönüllü bir mutabakat açıklandı. Yapay zekâyı durdurmak gerçekçi değil. Üstelik doğru kullanıldığında insanlığa sağlayabileceği faydalar düşünüldüğünde bunu istemek de çözüm değil.
Teknolojinin insanın üzerinde değil, insanın kontrolünde kalmasını sağlamak birinci öncelik olmalı. Bunun için üç temel kural gerekiyor:
KÜRESEL KURALLAR
- Bağımsız denetim. En güçlü yapay zekâ sistemleri piyasaya sunulmadan önce yalnızca şirketlerin kendi testlerine bırakılmamalı; bağımsız güvenlik denetimlerinden geçmeli.
- İnsan sorumluluğu. Yapay zekânın verdiği kararın arkasına saklanarak "Sistem böyle söyledi" denilememeli. Özellikle sağlık, savunma, hukuk, finans ve kritik altyapılarda nihai sorumluluk insanda kalmalı.
- Küresel kurallar. Yapay zekânın siber saldırı, biyolojik tehdit, otonom silahlar ve kitlesel manipülasyon gibi alanlarda kötüye kullanılmasını önleyecek uluslararası standartlar oluşturulmalı. Çünkü teknoloji sınır tanımıyor.
PARANTEZ
Dünyanın en büyük yönetim danışmanlığı firmalarından Bain & Co'nun analizine göre yapay zeka veri merkezleri 6 trilyon dolarlık bir saatli bomba. Çünkü veri merkezleri saldırılara karşı güçlü bir savunma sistemine sahip değil.
Bu, sıradan bir teknoloji hikâyesi değil. TIME'ın haberine göre Donald Trump, Aralık 2025'te Oval Ofis'te Elon Musk ile yaptığı gizli görüşmede saatler boyunca Grok'a sorular yöneltti. Soruların arasında Venezuela Devlet Başkanı Maduro'nun ele geçirilmesi halinde Venezuelalıların nasıl tepki vereceği de vardı. Grok'un, Maduro'nun son derece sevilmeyen ve baskıcı bir lider olduğunu, birçok Venezuelalının yakalanmasını memnuniyetle karşılayabileceğini söylediği aktarıldı.
Haftalar sonra ABD operasyon düzenledi ve Maduro yakalandı. Bir ülkenin lideri, savaş gibi geri dönüşü son derece ağır sonuçlar doğurabilecek bir konuda yapay zekâya ne ölçüde güvenebilir?
