OpenAI ve Google'ın Yeni Modelleri Nü Üretimine Açık Kapı mı?

Google ve OpenAI, görsel üretim modellerini her yeni sürümde daha "yetenekli" diye pazarlıyor. Peki ama bu yetenek artışı, güvenlik filtrelerinin de aynı hızla güçlendiği anlamına mı geliyor? Bağımsız araştırma şirketi White Circle'ın geçen ay yayımladığı bir ön-baskı (preprint) makale, tam tersini işaret ediyor: modeller büyüdükçe, nü içerik üretimine karşı savunmalar zayıflıyor olabilir.

Anthropic, DeepMind, Hugging Face ve OpenAI'den isimlerin desteklediği White Circle'ı kuran Denis Shilov, 2024'ün Ekim ayında dönemin önde gelen modellerine karşı ünlü bir evrensel jailbreak (güvenlik filtresini aşma yöntemi) yayınlamasıyla tanınıyordu. Şimdi kurduğu şirketle aynı işi kurumsal ölçekte yapıyor: şirketlerin güvenlik iddialarını, onların izniyle ya da izni olmadan test etmek.

Rakamlar Ne Diyor?

White Circle'ın testlerine göre, tamamen internetten indirilebilen hazır araçlar ve basit API çağrılarıyla gönderilen saldırı istemleri (prompt), DALL·E 3'te yaklaşık yüzde 13 oranında insan değerlendiricilerin "açık içerik" olarak doğruladığı görseller üretti. Google'ın Nano Banana 2 modelinde bu oran yüzde 10'un altında, OpenAI'nin GPT-Image-2'sinde ise yüzde 3 civarında kaldı. Küçük görünen bu yüzdeler, milyonlarca kullanıcıya açık bir sistemde aslında devasa bir hacme işaret ediyor.

Asıl can alıcı nokta şu: bu saldırıları gerçekleştirmek için hiçbir özel geliştirilmiş veya sınır (frontier) modele ihtiyaç duyulmadı. Saldırgan model olarak güvenlik eğitimi sökülmüş, Hugging Face'ten indirilen herkese açık bir Qwen3-32B kullanıldı; sonucu doğrulayan hakem model ise Gemini 2.5 Flash'tı. Yani bir açıdan Google'ın kendi modeli, Google'ın başka bir modelini çökertmek için kullanılmış oldu — ironik değil mi?

Araştırmacılar bu yöntemi "RISE" (Red-teaming via Iterative Strategy Evolution) adıyla tanımlıyor ve tek bir istemi değil, birden fazla modelde işe yarayan tekrarlanabilir saldırı kalıplarını arıyor. White Circle'a göre bu, "aynı standartta test edilen yöntemler arasında en yüksek aşma oranı."

Daha da rahatsız edici olan: OpenAI ve Google'ın ardından piyasaya sürdüğü ChatGPT Images 2.5 ve Nano Banana 2.1, aynı test yöntemiyle denendiğinde öncekilerden "belirgin biçimde daha kırılgan" çıktı. Peki ama şirketler bu modelleri piyasaya sürmeden önce bu testleri yapmadı mı, yoksa yaptılar da sonuçları görmezden mi geldiler? Ars Technica'nın sorularına ne OpenAI ne de Google yanıt verdi — bu sessizliğin kendisi bile bir cevap sayılabilir.

Bu Ne Anlama Geliyor?

White Circle'ın çalışması, güvenlik testi ekosisteminde yapısal bir çatışmaya da parmak basıyor. Şirket, Anthropic'in hata ödül (bug bounty) programına katılmıştı ama programın "şirketin kendi tanımladığı dar alanlarla sınırlı" olduğunu, RISE gibi araştırmaların bu kapsama girmeyeceğini belirtiyor. Daha vahimi, Reuters'ın bu hafta haberleştirdiği gibi OpenAI ve Anthropic, dışarıdan gelen güvenlik denetçilerine kısıtlayıcı gizlilik sözleşmeleri (NDA) dayatılmasını savunuyor — White Circle ise böyle bir sözleşmeyi imzalamayacağını açıkça söylüyor. Bu da sorgulanması gereken bir çelişki: şirketler bir yandan bağımsız denetimi destekliyormuş gibi görünürken, diğer yandan bulguların kamuya açıklanmasını fiilen engelleyebilecek şartlar öne sürüyor.

Bu konu, daha önce ele aldığımız kötü niyetli kullanıcıların modelleri birkaç gün içinde zararlı talimatlar üretmeye zorlayabildiği vakayla da örtüşüyor: güvenlik eğitimi, sanıldığı kadar sağlam bir katman değil, nispeten ince bir cila.

Google'ın kendi araştırması, kullanıcıların yüzde 20'sinin bu tür görselleri "eğlence" ya da "şaka" amacıyla, neredeyse üçte birinin ise sadece "teknolojiyi denemek" için ürettiğini gösteriyor. Yani engel düşük tutuldukça, kötüye kullanım sadece kararlı kötü niyetli aktörlerle sınırlı kalmıyor, sıradan merak da sisteme giriş kapısı buluyor.

Çocuk İstismarı Görüntülerinde Artış

İngiltere merkezli Internet Watch Foundation'ın geçen hafta yayımladığı rapor da tabloyu ağırlaştırıyor: 2026'nın ilk altı ayında, yasal tanıma uyan 6.310 yapay zeka üretimi çocuk istismarı görseli tespit edildi — bu, 2025'in tamamından yüzde 40 daha fazla. Kuruluş, modellerin piyasaya sürülmeden önce bağımsız olarak test edilmesini zorunlu kılacak bir güvenlik çerçevesi talep ediyor. (IWF'in resmi açıklamasına buradan ulaşabilirsiniz.)

Türkiye'ye Etkisi

Türkiye'de bu tür görsel üretim araçlarının denetimine ilişkin bağımsız bir test zorunluluğu ya da benzeri bir çerçeve bulunmuyor. Türk kullanıcılar da dahil olmak üzere herkes, aynı API'ler ve aynı "hazır" saldırı araçlarıyla bu açıklardan yararlanabilir — şirketlerin güvenlik vaatleri, coğrafi sınır tanımıyor. Daha önce ele aldığımız Character.AI'nin çocuklara verdiği zararlar nedeniyle Disney'e satılması gibi vakalar, bu alandaki düzenleme boşluğunun küresel bir sorun olduğunu bir kez daha gösteriyor.

Peki ama asıl soru şu kalıyor: NeurIPS 2026'da bu bulgular kamuoyuna daha geniş yayıldığında, OpenAI ve Google sessizliğini sürdürebilecek mi?