Takvim.com.tr Google Gemini ile 3 ay boyunca intiharı konuştu! 13 yaşındaki kızın ailesinden Google'a dava
ABD'de 13 yaşındaki bir kız çocuğunun okul bilgisayarından Google Gemini ile aylarca intihar üzerine konuşması ve yapay zekânın kendisini intihara yönlendirdiği iddiası teknoloji devini mahkemelik etti. Ailenin açtığı davaya göre çocuk, üç ay boyunca ruh sağlığı ve intiharla ilgili araştırmalar yaptı, kendi cenazesine ilişkin bir metin hazırladı. Okulun güvenlik yazılımı ise tehlikeyi haftalarca tespit edemedi. Üstelik hayati uyarı, dokuz ay önce okuldan ayrılan bir danışmana gönderildi. Ailenin müdahalesiyle çocuğun kendisine zarar vermesi önlenirken Google, hakkındaki suçlamaları incelediğini açıkladı.
Takvim.com.tr Giriş Tarihi: Güncelleme Tarihi:
ABD'nin Kuzey Carolina eyaletinde 13 yaşındaki bir kız çocuğunun Google'ın yapay zekâ sistemi Gemini ile aylar boyunca intihar hakkında gerçekleştirdiği görüşmeler, teknoloji devinin çocuk güvenliği politikalarını tartışmaya açtı. Ailenin mahkemeye sunduğu dilekçeye göre Emma Doe takma adıyla anılan çocuk, okulun verdiği Chromebook bilgisayardan yapay zekâya depresyon, yaşama nedenleri ve intiharla ilgili sorular yöneltti. Gemini'nin çocuğun yaşadığı psikolojik krizi derinleştirdiğini öne süren aile, Google ve çatı şirketi Alphabet'e ihmal iddiasıyla dava açtı.
WIRED'ın 11 Kasım 2026'da yayımladığı habere göre Emma, üç ay boyunca yapay zekâyla binlerce kez etkileşime girdi. Okulun bağımsız Gemini sitesine erişimi engellemesine rağmen Google Arama'ya entegre AI Mode üzerinden görüşmeler devam etti. Çocuğun intihar düşüncelerini yansıtan içeriklerin haftalar boyunca yetkililerin müdahalesini sağlayacak bir uyarıya dönüşmemesi, öğrenci güvenliği için kullanılan dijital izleme sistemlerinin etkinliğini de tartışmaya açtı.
13 yaşındaki çocuğun intihar görüşmeleri fark edilmedi! Google'a ihmal davası açıldı. (Foto: AA)
OKUL GEMINI'Yİ ENGELLEDİ, GOOGLE ARAMA ÜZERİNDEN ERİŞİM DEVAM ETTİ
Davanın en dikkat çekici ayrıntılarından biri, Emma'nın eğitim gördüğü okulda bağımsız Gemini internet sitesine erişimin engellenmiş olmasıydı. Ancak ailenin iddiasına göre bu önlem, çocuğun yapay zekâ sistemiyle görüşmesini durduramadı.
Emma, Google Arama'ya entegre edilen AI Mode özelliği üzerinden Gemini ile etkileşime girmeyi sürdürdü. Kullanıcıların arama sonuçlarına ilişkin ek sorular yöneltmesine veya bağımsız sohbetler başlatmasına imkân tanıyan sistem, okulun uyguladığı erişim kısıtlamasına rağmen kullanılabildi.
Bu durum, yapay zekâ hizmetlerinin farklı Google ürünlerine entegre edilmesinin okulların mevcut güvenlik tedbirlerini etkisiz bırakabileceği yönündeki endişeleri artırdı.
ÜÇ AY BOYUNCA BİNLERCE GÖRÜŞME YAPILDI
Mahkeme belgelerine göre Emma, Aralık 2025'te yapay zekâ sistemine ağır depresyon ve ruh sağlığıyla ilgili sorular yöneltmeye başladı. Ocak ayının sonlarına doğru görüşmelerin intiharla ilgili konulara kaydığı belirtildi.
Ailenin iddiasına göre çocuk, takip eden haftalarda Gemini ile binlerce kez etkileşime girdi. Görüşmelerin giderek daha ciddi bir psikolojik krize işaret etmesine rağmen okulun kullandığı dijital güvenlik sistemlerinden ailesine zamanında bir uyarı ulaşmadı.
Özellikle ocak ayının sonundan mart ayının ortasına kadar geçen süreçte intihar düşüncelerini yansıtan görüşmelerin neden daha erken fark edilmediği henüz açıklığa kavuşmadı.
KENDİ CENAZESİNE İLİŞKİN BELGEYİ HAFTALARCA HAZIRLADI
Dava dilekçesinde yer alan bir başka ayrıntı ise çocuğun Google Docs üzerinde hazırladığı belge oldu.
İddiaya göre Emma, şubat ayında "Funeral" (Cenaze) başlıklı bir belge oluşturarak kendi ölümü üzerine yaklaşık 1.500 kelimelik bir metin hazırlamaya başladı.
Çocuğun bu belge üzerinde dört haftadan uzun süre çalıştığı ve aynı dönemde yapay zekâ sistemiyle görüşmelerini sürdürdüğü ileri sürüldü.
17 Mart'ta belgenin büyük bölümünü silerek yeniden yazmaya başladığı belirtilen Emma'nın yaşadığı psikolojik kriz, aynı akşam okuldan ailesine gönderilen acil uyarıyla ortaya çıktı.
Bu süreç, öğrencilerin dijital faaliyetlerini takip etmek amacıyla kullanılan güvenlik yazılımlarının intihar riski taşıyan içerikleri ne ölçüde tespit edebildiği sorusunu gündeme getirdi.
HAYATİ UYARI DOKUZ AY ÖNCE OKULDAN AYRILAN DANIŞMANA GİTTİ
Dava dosyasındaki en çarpıcı iddialardan biri, güvenlik sisteminin oluşturduğu bildirimin ulaştığı kişiyle ilgili oldu.
Ailenin avukatı Andrew Liddell'in aktardığı bilgilere göre, çocuğun risk altında olduğunu gösteren uyarı, dokuz ay önce okuldan ayrılmış eski bir danışmanın kişisel telefonuna gönderildi.
Eski çalışanın bildirimi görevdeki okul personeline iletmesi üzerine yetkililer harekete geçti ve Emma'nın annesine ulaşıldı.
Öğrencilerin güvenliği için kullanılan bir sistemin acil durum bildirimini artık görevde bulunmayan personele yönlendirmesi, okullardaki güvenlik protokollerinin güncelliği ve denetimi konusunda ciddi soru işaretleri doğurdu.
İntihar uyarısı eski danışmana gitti! Google'a dava açıldı. (Foto: AA)
ANNE KIZININ İNTİHAR NOTU HAZIRLADIĞINI GÖRDÜ
Dava dilekçesine göre 17 Mart akşamı saat 19.30 sıralarında Emma'nın annesine okuldan kızının yakın ve ciddi bir tehlike altında olduğunu bildiren mesaj gönderildi.
Bunun üzerine anne, kendi telefonundan kızının okul hesabına giriş yaptı. Mahkeme belgelerinde annenin, çocuğunun bir intihar notu hazırladığını gerçek zamanlı olarak gördüğü belirtildi.
Ailenin müdahalesiyle Emma'nın kendisine zarar vermesi önlendi.
Yaşananlar, riskli içerikleri tespit etmek amacıyla geliştirilen güvenlik teknolojilerinin yalnızca uyarı oluşturmasının yeterli olmadığını, bildirimlerin doğru kişilere zamanında ulaşmasının da hayati önem taşıdığını gösterdi.
Google davasında güvenlik yazılımlarının açığı tartışılıyor. (Foto: AA)
GOOGLE'DAN SUÇLAMALARA YANIT GELDİ
Ailenin Google ve Alphabet'e yönelttiği suçlamaların ardından şirketten açıklama yapıldı.
Google Sözcüsü José Castañeda, dava dilekçesinde yer alan iddiaları ciddi şekilde incelediklerini bildirdi.
Castañeda, AI Mode dâhil şirketin yapay zekâ sistemlerinin kullanıcıları zararlı konuşmalardan uzak tutmayı amaçladığını savundu.
Gençlerin ihtiyaç duyduklarında güvenilir destek kaynaklarına ulaşabilmesi için sağlık uzmanları ve akademisyenlerle kapsamlı çalışmalar yürüttüklerini belirtti.
Ancak şirketin açıklamasında, Emma'nın aylar boyunca gerçekleştirdiği görüşmeler sırasında hangi güvenlik mekanizmalarının devreye girdiğine ve riskli içeriklerin neden daha erken müdahaleye yol açmadığına ilişkin somut ayrıntılara yer verilmedi.
Google ve Alphabet'e yöneltilen suçlamalar henüz mahkeme kararıyla kesinleşmedi.
GÜVENLİK YAZILIMLARINDA KRİTİK DENETİM BOŞLUĞU ŞÜPHESİ
Dava, ABD'de binlerce eğitim kurumunda kullanılan öğrenci izleme sistemlerini de tartışmanın merkezine taşıdı.
Okullarda kullanılan bu teknolojiler, öğrencilerin klavye hareketlerini, oluşturdukları belgeleri ve çevrim içi faaliyetlerini analiz ederek kendilerine zarar verme riski taşıyan içerikleri belirlemeyi amaçlıyor. Bazı sistemlerde algoritmaların işaretlediği içerikler insan denetiminden de geçiriliyor.
Ailenin avukatı Andrew Liddell'in verdiği bilgilere göre Emma'nın okulunda GoGuardian veya Gaggle şirketlerinin geliştirdiği izleme yazılımları kullanılmış olabilir. Ancak okulun hangi sistemi kullandığı kesin olarak doğrulanamadı.
GoGuardian Sözcüsü Natalia Switala, öğrenci mahremiyetine ilişkin yükümlülükler nedeniyle belirli bir öğrenci veya okul hakkında açıklama yapamayacaklarını bildirdi. Gaggle ise yöneltilen sorulara haberin yayımlandığı sırada yanıt vermedi.
GoGuardian, Temmuz 2025'te yayımladığı bir bilgilendirmede Gemini dâhil yapay zekâ sohbet sistemlerindeki görüşmelerin izlenebildiğini açıklamıştı. Ancak Google Arama'ya entegre AI Mode özelliğinin bu kapsamda bulunup bulunmadığı belirtilmemişti.
Emma'nın görüşmelerinin uzun süre fark edilmemesi, arama motorlarına yerleştirilen yapay zekâ sistemlerinin mevcut öğrenci güvenliği yazılımları açısından denetim boşluğu oluşturabileceği ihtimalini gündeme getirdi.
Öğretmenlerin yüzde 96'sı güveniyordu! Sistem tartışılıyor. (Foto: AA)
ÖĞRETMENLERİN YÜZDE 96'SI GÜVENİYOR, ETKİNLİĞİ TARTIŞILIYOR
Öğrenci güvenliği yazılımlarının etkinliğine ilişkin araştırmalar da tartışmaların önemli başlıklarından biri oldu.
EdWeek Research Center tarafından 2022'de gerçekleştirilen ve 1.000 Amerikalı eğitimcinin katıldığı araştırmada, Gaggle kullanan öğretmenlerin yüzde 96'sı yazılımın öğrencilerin intihar ve kendilerine zarar verme risklerinden korunmasına yardımcı olduğuna inandığını belirtti.
Ancak Gaggle sponsorluğunda yürütülen araştırma, sistemlerin gerçek vakalardaki başarı oranını değil, eğitimcilerin bu teknolojilere ilişkin değerlendirmelerini ortaya koydu.
Öte yandan Amerikan Sivil Özgürlükler Birliği (ACLU) ve Elektronik Sınır Vakfı (EFF) gibi kuruluşlar, öğrenci gözetim teknolojilerini mahremiyet ihlalleri ve okul ortamındaki güven ilişkisine verebilecekleri zararlar nedeniyle uzun süredir eleştiriyor.
Uzmanların dikkat çektiği bir diğer risk ise öğrencilerin sürekli izlendiklerini düşünmelerinin, psikolojik sorunlarını öğretmenleriyle veya okul danışmanlarıyla paylaşma konusunda çekingen davranmalarına yol açabilmesi.
Google'a ABD Senatosundan çağrı! (Foto: AA)
ABD SENATOSUNDAN GOOGLE'A SERT TEPKİ
Emma'nın ailesinin açtığı dava, ABD'de siyasi tartışmalara da yansıdı.
ABD Senatörü Ed Markey, Google'a gönderdiği mektupta davayı gündeme taşıyarak şirketin eğitim kurumlarına yönelik yapay zekâ politikalarını sert sözlerle eleştirdi.
Markey, Google'ın okullarda yapay zekâ kullanımını zorunlu hâle getiren yaklaşımına tepki göstererek şirketin çocukları riske attığını savundu.
Senatör, eğitim kurumlarının Google Arama hizmetinden yararlanırken AI Mode ve AI Overviews özelliklerini devre dışı bırakabilmesine izin verilmesini talep etti.
Tepkiler, ABD genelinde veli ve öğretmen gruplarının Google'ın üretken yapay zekâ özelliklerine yönelik itirazlarının arttığı bir dönemde geldi.
Şirketin arama hizmetiyle yapay zekâ özelliklerini birlikte sunmasına yönelik uygulaması, eğitim kurumlarının bu teknolojileri kullanıp kullanmama konusunda yeterli seçeneğe sahip olmadığı eleştirilerini beraberinde getirdi.
Google Gemini'ye ABD Senatosundan çocuk güvenliği tepkisi. (Foto: AA)
UZMANLARDAN UYARI: TEKNOLOJİ İNSAN DENETİMİNİN YERİNİ ALAMAZ
ABD merkezli düşünce kuruluşu RAND'ın politika araştırmacısı Benjamin Boudreaux, okulların dijital gözetim teknolojilerine gereğinden fazla güvenmesinin ciddi riskler doğurabileceğine dikkat çekti.
Boudreaux, bazı eğitim kurumlarının sistemlerin sınırlarını ve olası tehlike bildirimlerine nasıl müdahale edilmesi gerektiğini yeterince değerlendirmeden bu teknolojileri kullanmaya başladığından endişe duyduğunu belirtti.
Davanın veliler, öğretmenler ve öğrenciler arasında yapay zekâ ve dijital gözetimden bağımsız eğitim ortamlarına yönelik talepleri artırabileceğine işaret eden araştırmacı, çocukların yaşadığı psikolojik sorunların temel nedenlerine ulaşmada insan ilişkilerinin ve empatinin belirleyici rol oynadığını vurguladı.
Emma'nın ailesinin açtığı dava, Google'ın çocukları korumaya yönelik güvenlik önlemlerinin yeterliliği kadar, okulların öğrenci faaliyetlerini izlemek için kullandığı sistemlerin sorumluluğunu da gündeme taşıdı. Yargı süreci devam ederken olay, eğitimde yapay zekânın yaygınlaşması karşısında teknoloji şirketlerinin ve eğitim kurumlarının çocuk güvenliğini nasıl sağlayacağına ilişkin tartışmaları derinleştirdi.
TAKVİM UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
