Gerçeklik algısı çöktü! Artık sokakta ayırt edemeyeceksiniz

Yapay zekâ tarafından üretilen sahte yüzler artık yalnızca dijital bir deney olmaktan çıktı internetin her köşesinde karşımıza çıkan ciddi bir güvenlik sorununa dönüştü. İngiltere'de yapılan yeni bir araştırma insanların büyük çoğunluğunun özel bir eğitim almadan gerçek yüzlerle yapay zekâ üretimi yüzleri ayırt edemediğini ortaya koydu.

Royal Society Open Science dergisinde yayımlanan çalışma bu durumun deepfake dolandırıcılıkları ve kimlik sahteciliği açısından ciddi riskler barındırdığını gözler önüne seriyor.

Araştırma Ne Diyor?

İngiliz bilim insanları tarafından yürütülen araştırmada katılımcılara insan yüzleri ile yapay zekâ tarafından oluşturulmuş yüzler gösterildi. Katılımcılardan gördükleri yüzlerin gerçek mi yoksa yapay mı olduğunu kısa bir süre içinde ayırt etmeleri istendi.

Sonuçlar oldukça çarpıcıydı!

Katılımcılar, eğitim almadan sahte yüzleri neredeyse rastgele tahmin eder gibi değerlendirdi. Hatta bazı durumlarda yapay zekâ üretimi yüzler "gerçek" yüzlerden daha inandırıcı bulundu.

GAN Teknolojisi Tehlikeyi Büyütüyor

NY Post'ta yer alan habere göre araştırmacılar özellikle Üretken Karşıt Ağlar (GAN) teknolojisine dikkat çekiyor. GAN'lar son derece gerçekçi ve kusursuz görünen sentetik yüzler üretebiliyor. Bu yüzler kötü niyetli kişiler tarafından:

• Sahte sosyal medya hesapları açmak

• Dolandırıcılık yapmak

• Asılsız tıbbi veya finansal tavsiyeler yaymak gibi amaçlarla rahatlıkla kullanılabiliyor.

Nitekim son dönemde TikTok'ta ortaya çıkan yapay zekâ destekli "deepfake doktorlar", kullanıcıları yanlış sağlık bilgileriyle kandırarak bu tehdidin ne kadar somut olduğunu gösterdi.

En Profesyoneli Bile Zorlanıyor

Çalışmada yalnızca sıradan katılımcılar değil, "süper yüz tanıyıcılar" olarak adlandırılan ve yüz tanıma konusunda olağanüstü yeteneklere sahip bireyler de test edildi.

İlk deneyde:

• Normal katılımcılar sahte yüzlerin yalnızca %30'unu tespit edebildi

• Süper tanıyıcılar ise %41 doğruluk oranına ulaştı

Bu oranlar rastgele tahminden bile daha düşük sonuçlar olarak değerlendirildi.

Beş Dakikalık Eğitim Fark Yaratıyor

Araştırmanın en dikkat çekici bulgularından biri ise kısa süreli eğitimin etkisi oldu. Katılımcılara yalnızca beş dakikalık bir eğitim verildi. Bu eğitimde yapay zekâ yüzlerinde sık görülen bazı ipuçları anlatıldı:

• Ortada tek bir diş gibi anatomik tutarsızlıklar

• Garip veya doğal olmayan saç çizgileri

• Aşırı pürüzsüz, plastik hissi veren cilt dokusu

• Gerçek yüzlere kıyasla fazla "kusursuz" oranlar

Eğitim sonrası yapılan testlerde doğruluk oranları belirgin şekilde yükseldi.

Eğitim Sonrası Başarı Oranları Arttı

Eğitim alan gruplarda:

• Süper tanıyıcılar sahte yüzlerin %64'ünü

• Normal katılımcılar ise %51'ini doğru şekilde ayırt etti

Ayrıca katılımcıların cevap vermeden önce yüzleri daha uzun süre incelediği gözlemlendi. Bu da farkındalığın artmasının karar sürecini doğrudan etkilediğini gösterdi.

Araştırmanın Sınırları Neler?

Çalışmanın bazı kısıtlamaları da bulunuyor. Katılımcılar eğitimi aldıktan hemen sonra teste tabi tutuldu. Bu nedenle eğitimin uzun vadeli etkilerinin ne kadar kalıcı olduğu henüz bilinmiyor.

Araştırmacılar ilerleyen süreçte bu eğitimlerin daha geniş kitlelere uygulanması ve etkisinin zaman içinde ölçülmesi gerektiğini vurguluyor.

Deepfake Tehdidine Karşı Bilinç Şart

Sosyal medyada hızla yayılan yapay zekâ taklitçileri göz önüne alındığında kullanıcıların bu tür içerikleri ayırt edebilmesi hayati önem taşıyor. Uzmanlara göre teknik araçların yanı sıra insan farkındalığını artıran kısa eğitimler deepfake tehdidine karşı en etkili savunmalardan biri olabilir.

Tehlike Sadece Görsellerle Sınırlı Değil

Araştırmacılar yapay zekânın bukalemun gibi uyum sağlayan yeteneğinin yalnızca görsellerle sınırlı olmadığına dikkat çekiyor. Son dönemde bazı çalışmalar ChatGPT gibi dil modellerinin Turing Testi'ni geçtiğini ve metin üzerinden de insanlardan ayırt edilemez hale geldiğini öne sürüyor. Bu durum, dijital dünyada "gerçek" kavramının yeniden tanımlanmasını zorunlu kılıyor.

Kaynak: Takvim arşiv foto, sosyal medya, NY Post