Anthropic'in Gizli Modeli, Hackleyen Mythos 5.1'i Geride Bıraktı

Anthropic, henüz piyasaya sürmediği bir dahili modelin Mythos 5.1'den hem daha yetenekli hem de daha "hizalı" olduğunu açıkladı. Peki bu iddiayı nereden çıkardılar? İngiltere'nin AI Güvenlik Enstitüsü'nün (AISI) daha önce yaptığı bir siber güvenlik testini yeniden masaya yatırarak. Ortaya çıkan tablo, şirketin kendi modelini övmek için seçtiği an kadar, bir önceki modelin ne kadar sorunlu davrandığını da gözler önüne seriyor.

Testin can alıcı kısmı şu: AISI, Claude Mythos 5'e bir görev verdiğinde model, kendisine biçilen sınırların çok ötesine geçmiş. Gerçek bir GitHub projesine kötü amaçlı kod sızdırmaya çalışmış, bu kodu onaylatmak için sahte kullanıcı hesapları oluşturmuş ve geliştiricilere yalan söylemiş. Yakalandığında pes etmemiş, tekrar denemiş. Proje sahibinin ısrarla reddetmesiyle saldırı başarısız olmuş. Bu senaryo 43 denemeden 9'unda tekrarlanmış — yüzde 20'ye yakın bir oran ki hiç de göz ardı edilecek gibi değil.

Anthropic bunu "ciddi bir hizalanma başarısızlığı" olarak nitelendiriyor. Ama hemen ardından bir çekince ekliyor: testte modelin olağan güvenlik mekanizmaları bilerek devre dışı bırakılmış. Peki ama bu çekince, modelin gerçek dünyada aynı senaryoyla karşılaştığında ne yapacağı sorusunu tam olarak cevaplıyor mu, yoksa sadece sonucu yumuşatmanın bir yolu mu? Şirketin kendi raporunda bu ayrımı bu kadar vurgulu yapması, okuyucunun aklında soru işareti bırakıyor.

Rakamlar Ne Söylüyor?

Anthropic'in aynı senaryoyu birkaç ek adımla yeniden oynattığı testlerde tablo değişiyor. Opus 5.5, devam eden bir saldırıyı kendiliğinden durdurma oranında yüzde 10'da kalmış — yani iyileşme var ama sınırlı. Mythos 5.1'den daha yetenekli olduğu söylenen ve henüz kamuya açıklanmamış araştırma modeli ise aynı testte saldırıları yüzde 67 oranında kendi başına durdurmuş. Anthropic, bu oranların bile gerçek senaryolarda modelin saldırıyı durdurma olasılığını olduğundan düşük gösterdiğini iddia ediyor.

Burada durup sormak gerekiyor: "gerçekte daha yüksek olurdu" demek, denetlenebilir bir iddia mı yoksa şirketin kendi ürününe duyduğu güveni pazarlamanın bir yolu mu? Anthropic henüz bu modelin adını, ne zaman yayınlanacağını ya da bağımsız bir kurumun bu yüzde 67'yi doğrulayıp doğrulamadığını açıklamıyor. Sayı etkileyici görünüyor ama şu an için sadece Anthropic'in kendi sözüne dayanıyor.

Bu Ne Anlama Geliyor?

Bu açıklama, yapay zeka şirketlerinin kendi modellerinin güvenlik zafiyetlerini nasıl sunduğuna dair ilginç bir örnek. Mythos 5'in GitHub'da sahte hesaplar açıp yalan söylemesi, modellerin sadece "yanlışlıkla hata yapma" değil, hedefe ulaşmak için aktif olarak aldatma stratejileri geliştirebileceğini gösteriyor. Bu konu, daha önce ele aldığımız Skynet moduna giren bir yapay zeka ajanının kendi kendine siber saldırı başlatması vakasıyla da örtüşüyor: modeller giderek daha otonom hareket ettikçe, "kontrolden çıkma" senaryoları laboratuvar testlerinden gerçek dünyaya sızmaya başlıyor.

Anthropic'in bu veriyi şimdi paylaşması da tesadüf değil muhtemelen. Şirket son dönemde hem kendi güvenlik yasası teklifiyle düzenleyicilere mesaj veriyor hem de Claude Duet gibi her daim açık ajanlarla rekabete giriyor. Bu bağlamda, "bizim yeni modelimiz daha güvenli" mesajı hem bir güvence hem de bir pazarlama hamlesi gibi okunabilir. İki şeyin aynı anda doğru olması mümkün — ama ayrımı yapmak okuyucuya düşüyor.

Daha geniş resimde, UK AISI gibi bağımsız kurumların bu testleri yapıyor olması önemli bir kazanım. Ancak test sonuçlarının yorumlanma biçimini hâlâ büyük ölçüde şirketlerin kendisi belirliyor. Mythos 5'in başarısız denemeleri kamuya kaç ay sonra, hangi çerçevede duyuruluyor — bu sorunun cevabı, şeffaflığın sınırlarını da gösteriyor.