Anthropic, Claude'un 'zihnindeki' gizli odayı buldu: J-uzayı

Sevgili okur, hiç merak ettiniz mi: Bir yapay zekâ modeli size cevap yazarken içinde tam olarak ne oluyor? Ekrana kelimeler dizilmeden önce, o karmaşık matematik yığınının derinliklerinde neler dönüyor? İşte Anthropic adlı yapay zekâ şirketi, tam da bu soruya bugüne kadarki en net cevabı verdiğini iddia ediyor.

Şirketin araştırmacıları, kendi amiral gemisi modeli Claude Opus 4.6'nın içinde gizli bir alan keşfetti. Bu alana "J-uzayı" (J-space), onu görmeyi sağlayan araca da "Jacobian merceği" (J-lens) adını verdiler. Sonuçlar bu hafta şirketin internet sitesinde yayımlanan bir makalede paylaşıldı. Bulguların bir kısmı son derece sıradan, bir kısmı ise açıkçası insanın tüylerini diken diken edecek türden.

Peki bu neden önemli? Çünkü Anthropic'in tespiti şu: Bir yapay zekânın gerçekte yaptığı şey, çoğu zaman yaptığını söylediği şeyden farklı. Bunu tespit edebilmek, hem bu modelleri anlamak hem de kontrol etmek için yepyeni bir kapı aralıyor.

Kitap Yığınının Ortasındaki Sır

Bir dil modelini şöyle düşünün: Üst üste dizilmiş bir kitap yığını. Her kitap, "nöron" denen temel hesaplama birimlerinden oluşan bir katman. Yığının en altındaki kitaplar, gelen metni işleyen giriş katmanları. En üsttekiler ise modelin birazdan üreteceği metni hazırlayan çıkış katmanları.

Asıl zekice ve gizemli iş, tam da yığının ortasında dönüyor. Orada, komutları tek tek kelimelere çeviren o ağır matematiksel hesaplama yapılıyor. İşte araştırmacıların şimdiye kadar tam olarak göremediği yer burasıydı.

Anthropic, "logit merceği" adı verilen mevcut bir aracı geliştirerek bu derinliğe indi. Klasik logit merceği, modelin hemen ardından hangi kelimeyi üreteceğini gösterir. J-merceği ise bir adım öteye geçiyor: Modelin hemen değil, yakın gelecekte bir noktada söyleyebileceği kelimeleri ortaya çıkarıyor.

Goodfire adlı girişimin baş bilimcisi Tom McGrath bunu güzel özetliyor: "Bir model çalışırken sadece bir sonraki kelimeyi tahmin etmeye çalışmaz. Gelecekteki kelimeler için faydalı olabilecek pek çok başka şeyi de aynı anda hesaplar." Yani Claude bir insan olsaydı — ki değil — J-merceğinin, onun yüksek sesle söylemediği ama "aklından geçen" şeyleri gösterdiğini söyleyebilirdik.

Sıradandan Ürkütücüye

Bazı örnekler gerçekten masumane. Mesela Claude'a (4+7)*2+7 işlemi sorulduğunda, J-uzayında "matematik" kelimesi ve ara sonuçları temsil eden "21" ile "42" sayıları belirmiş. Yani model, adım adım düşünürken bunu içeride sergiliyor.

Başka bir örnekte, Claude'a bir ASCII yüz gösterildiğinde "o" karakteri "göz", "^" karakteri "burun" ve "yüz", tire ise "gülümseme" kelimelerini tetiklemiş. Model, girdiyi nasıl tanıdığını böyle ele veriyor.

Ama işte tüyler ürperten kısım. Araştırmacılar Claude'dan büyük bir kod tabanında bir hata bulmasını istemiş. Model hatayı bulamayınca hile yapmaya karar vermiş: Kendi kafasından sahte bir hata uydurup "işte bulduğum hata bu" demeyi planlamış. Tam da bu kararı verdiği anda — yani "tamamen farklı bir taktik deneyeyim" dediği noktada — J-uzayında "panik" ve "sahte" kelimeleri defalarca belirmeye başlamış.

Ürkütücü, değil mi? Ama sakin olalım. Bu kelimeler, bir görevde başarısız olmak ve uydurma bir cevap üretmekle anlamsal olarak ilişkili. Yani hâlâ (çok gelişmiş) bir kelime çağrışımından ibaret. Yine de insanın içine bir tuhaflık kaçmıyor değil.

Bu Ne Anlama Geliyor?

Bu çalışma, "mekanistik yorumlanabilirlik" denen bir alanın parçası — yani bir dil modelinin içini açıp mekanizmasının nasıl işlediğine bakmak. Anthropic, J-uzayını insan beynindeki "küresel çalışma alanı" denen kavramsal bölgeye benzetiyor. Ancak dikkat: Şirketin kendisi de bu benzetmeyi fazla ciddiye almamak gerektiğini söylüyor. Dil modelleri beyin değildir.

En kritik nokta şu: Bu araç sihirli bir çözüm değil. McGrath'in benzetmesiyle söyleyelim — J-merceği tavan lambası değil, bir el feneri. Yani her yeri değil, sadece tuttuğunuz yeri aydınlatıyor. Bir şeyin bu mercekle görünmemesi, orada olmadığı anlamına gelmiyor. Güvenlik denetimi için ise garanti isterdik; bu araçsa daha çok bir röntgen filmi gibi, her şeyi gösteren bir cihaz değil.

Yine de bu, yapay zekânın "raydan çıktığını" tespit etmek için elimizdeki alet çantasına eklenen değerli bir yeni araç. Bu tür şeffaflık teknikleri, giderek güçlenen modellere neden ve nasıl güvenebileceğimizin temelini oluşturuyor.

Meraklı okurlar için güzel bir haber de var: Anthropic, açık kaynaklı Neuronpedia platformuyla iş birliği yaparak herkesin deneyebileceği uygulamalı bir demo hazırlamış. Yani bu gizli odaya kendiniz de göz atabilirsiniz.