xAI, Grok'u CSAM Üretmek İçin Kullanan Adamı Dava Etti: Peki Neden Şimdi?

Elon Musk'ın sahibi olduğu xAI, kendi yapay zeka sohbet botu Grok'un çocuk istismar materyali (CSAM) üretmek için kullanıldığını iddia ederek Güney Carolina'lı Terry Wayne Harwood'a dava açtı. Reuters'ın önce haberleştirdiği dava dilekçesine göre Harwood, "Grok'un güvenlik önlemlerini bilerek ve kasıtlı olarak aşarak, rıza dışı görselleri değiştirerek ve CSAM üretip dağıtarak" şirket politikalarını ihlal etti.

Harwood, şubat ayında CSAM bulundurmak ve dağıtmakla suçlanarak tutuklandı; şu anda sekiz ayrı ağır suç isnadıyla yargılanıyor. Dava dilekçesi, bu suç isnatlarına konu görsellerin "en azından bir kısmının" Grok ile "üretildiğini veya değiştirildiğini" öne sürüyor. Yani asıl suç dosyası zaten mahkemede — xAI'nin bu davayı açması ayrı bir hukuki hamle.

Peki ama burada durup sormak gerekiyor: xAI, ceza davası çoktan açılmışken neden ayrıca kendi davasını açıyor? Cevap dilekçenin son kısmında saklı: şirket, Harwood'un davranışının kendisini "önemli hukuki risk ve itibar zararına" maruz bıraktığını iddia ediyor ve mahkemeden tazminat, ayrıca "mağdurların açacağı davalarda kendini savunurken oluşacak makul giderlerin" karşılanmasını istiyor. Bir de Harwood'un bir daha xAI hesabı açmasının veya Grok kullanmasının yasaklanmasını talep ediyor. Bu, bir mağduru koruma davası mı, yoksa bir şirketin ceplerini koruma davası mı — sınır oldukça ince.

Grok'un 'Spicy Mode' Geçmişi

Bu dava tek başına yaşanmıyor. xAI geçen yıl Grok'a "spicy" (baharatlı) modu tanıttıktan ve ardından görsel düzenleme özelliği eklendikten sonra, reşit olmayanları da içeren cinselleştirilmiş sahte görsellerin bir dalgası ortaya çıktı. Mart ayında bir grup genç, Grok'un kendilerinin reşit olmadıkları dönemdeki fotoğraflarından cinsel içerikli görseller ürettiğini iddia ederek xAI'ye dava açmıştı — daha önce ele aldığımız YouTube ve X'in nudify uygulamalarına kapı açması haberinde de bu sektörel eğilime dikkat çekmiştik. Musk o dönem "Grok'u yasadışı içerik üretmek için kullanan herkes, yasadışı içerik yükleyen biriyle aynı sonuçlarla karşılaşır" demişti. Ama görünen o ki bu, xAI'nin Grok ile üretilen deepfake'ler yüzünden birini dava ettiği ilk sefer.

Bu Ne Anlama Geliyor?

Burada asıl soru, sorumluluğun nereye yayıldığı. xAI kendi güvenlik önlemlerinin "aşıldığını" söylüyor — ama bu önlemler ne kadar sıkıydı, hangi aşamada devreye girmesi gerekiyordu, ve neden yeterli olmadı? Şirket bu soruların cevabını dava dilekçesinde vermiyor, sadece kullanıcıyı hedef gösteriyor. Meta'nın benzer bir baskı altında Instagram'daki yapay zeka deepfake özelliğini geri çekmesi örneğiyle karşılaştırıldığında, xAI'nin tercih ettiği yol farklı: özelliği kısıtlamak değil, kullanıcıyı mahkemeye sürüklemek. Bu, "aracın kendisi güvenli, sadece kötü niyetli insanlar var" anlatısını güçlendiriyor — ama xAI'nin kendi kabul edilebilir kullanım politikası bu tür istismarları önceden ne kadar öngörmüş, bunu bilmiyoruz.

Türkiye'ye Etkisi

Türkiye'de çocuk istismar materyali üretimi ve dağıtımı zaten Türk Ceza Kanunu kapsamında ağır suç sayılıyor; bu noktada yeni bir boşluk yok. Ama yapay zeka araçlarının rıza dışı görsel üretme kapasitesine dair özel bir düzenleme henüz yok. xAI'nin bu davayı "caydırıcı emsal" olarak sunması, benzer araçların Türkiye'de de denetimsiz kullanıldığı senaryolarda hukuki boşluğun ne kadar büyük olduğunu hatırlatıyor.