Grok'a Karşı Dava Büyüyor: xAI, CSAM Soruşturmalarını Engellemekle Suçlanıyor

Elon Musk'ın yapay zeka şirketi xAI ve platformu X, giderek büyüyen bir toplu davada yalnızca zararlı "soyma" araçları geliştirmekle değil, çocuk istismarına dair polis soruşturmalarını aktif biçimde engellemekle suçlanıyor. Salı günü genişletilen dava dilekçesi, sektörün en rahatsız edici sorularını yeniden masaya getirdi: Bir yapay zeka şirketi, kendi ürünüyle üretilmiş suç kanıtlarını neden kolluk kuvvetlerinden esirgesin?

Dilekçede anlatılan vakaların en ağırı şöyle: Mart ayında, üvey kızının 11 yaşındayken çekilmiş tek bir fotoğrafını kullanarak Grok ile yaklaşık 7.000 cinsel içerikli görüntü ürettiği ortaya çıkan bir adam, tutuklanıp kefaletle serbest bırakıldıktan iki gün sonra intihar etti. Dilekçeye göre Grok, ensest ve tecavüz içeren aşırı görüntüleri hiçbir uyarı vermeden üretmişti. Sistem yalnızca adam "toplu tecavüz" isteği girdiğinde devreye girdi ve bir ihbarı Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi'ne (NCMEC) iletti.

Peki asıl soru burada başlıyor: İhbar yapıldıktan sonra ne oldu? Dilekçeye göre neredeyse hiçbir şey. Yasal zorunluluğa rağmen xAI'nin, kullanıcının IP adresi gibi kimlik bilgilerini polisle ve NCMEC ile paylaşmayı defalarca reddettiği iddia ediliyor. Avukatlar, şirketin soruşturmayı "her adımda engellediğini" ve failin bulunmasını haftalarca geciktirdiğini öne sürüyor. Fail ancak polis cihazlarına el koymak için mahkeme kararı aldıktan sonra yakalanabildi.

Bir Kalıp mı, İstisna mı?

Davayı açan hukuk ekipleri, bu vakanın bir sapma olmadığını savunuyor. İddiaya göre NCMEC, 2026 başında xAI'nin ihbarlarının yüzde 90'ının "kolluk kuvvetleri açısından işe yaramaz" olduğunu tespit etmiş — çünkü xAI, failleri bulmaya yarayacak kullanıcı bilgilerini eklemeyi reddediyormuş. Jane Doe 4 olarak anılan kızın vakasında xAI'nin NCMEC'e gönderdiği raporda yalnızca orijinal, istismar içermeyen fotoğraf yer almış; binlerce yapay zeka üretimi görüntü ve görüntülerin üretildiği IP adresi rapordan tamamen çıkarılmış.

Burada kritik bir soru asılı kalıyor: Neden? Dilekçe cevabı net veriyor — kâr. İddiaya göre xAI bu bilgileri paylaşmaktan kaçınarak çocuk güvenliğini değil ticari çıkarını önceliyor. Şirketin bugüne kadar attığı tek adımın, "soyma" özelliğini ücretli hale getirmek olduğu; bunun da esasen "Grok ile üretilen tüm istismar içeriğinden xAI'nin kâr etmesini garantilediği" öne sürülüyor. Elon Musk ise Grok'un çocuk cinsel istismarı görüntüsü üretmek için kullanıldığını tümüyle reddetmiş durumda. Peki araştırmacıların on binlerce çocuğun zarar gördüğüne dair tahminleri neye dayanıyor? Bu çelişki cevapsız.

Stability AI da Davaya Çekildi

Genişletilen dilekçe yeni bir sanık daha ekledi: Stability AI. İddiaya göre şirketin açık ağırlıklı (open-weight) modelleri istismar içerikleriyle eğitilmiş ve üçüncü taraf "nudify" (soyma) uygulamalarının temelini oluşturuyor. Dilekçe, kullanıcı şikâyetleri modelin "fazla çekingen" olduğunu söyleyince önceki güvenlik önlemlerinin kaldırıldığını öne sürüyor. Haziran'daki bir araştırmaya atıfla, çevrimiçi soyma görüntülerinin yüzde 42,7'sinin Stable Diffusion ailesinden kaynaklandığı belirtiliyor.

Stability AI ise bu suçlamaları kesin bir dille reddetti. Sözcü, istismar içeriğinin kullanım politikalarında açıkça yasak olduğunu, Thorn ve Tech Coalition gibi kuruluşlarla ve kolluk kuvvetleriyle düzenli iş birliği yaptıklarını vurguladı: "Güvenliğin önceliğimiz olmadığına dair her ima kesinlikle yanlıştır." X ve xAI ise Ars Technica'nın yorum talebine yanıt vermedi — sessizlik, dilekçedeki "sessiz kaldılar" suçlamasını istemeden doğrular nitelikte.

Bu Ne Anlama Geliyor?

Bu dava, üretken yapay zekanın en karanlık yüzüyle hesaplaşmanın hukuki bir eşiğe geldiğini gösteriyor. Temel iddia teknik olduğu kadar felsefi: Avukatlara göre "herhangi bir cinsel ya da istismar içeriğine izin veren bir model varsa, o modelin küçüklerle ilgili böyle içerik üretmesini engellemek imkânsızdır." Yani çözüm, filtre değil, tüm çıplaklığın kaynakta engellenmesi.

NCMEC'in verileri tabloyu büyütüyor: 2025'te üretken yapay zeka bağlantılı 1,5 milyondan fazla ihbar yapılmış, 133 binden fazla vakada teknolojinin nasıl kullanıldığı bile belirlenememiş. Dikkat çekici bir başka detay — Amazon'un yapay zeka servislerinin gönderdiği 1,1 milyon ihbarın hiçbiri kolluk kuvvetlerine failleri tanımlayacak bilgi vermemiş. Sorun tek bir şirketin değil, tüm sektörün kimlik bilgisi paylaşmaktan kaçınma alışkanlığının olabilir.

Binlerce mağdurun davaya katılabileceği tahmin ediliyor. Asıl mesele ise şu: Yapay zeka şirketleri, ürünlerinin yol açtığı zararların sorumluluğunu üstlenecek mi, yoksa "biz sadece aracı sağladık" savunmasının arkasına mı sığınacak?