Nöronları Yanlış mı Okuduk? Yapay Zekâda Çığır Açan İddia

Bir yapay zekâ modelinin kafasının içine bakabildiğinizi hayal edin. Milyonlarca küçük anahtar görüyorsunuz ama hiçbiri hangi kapıyı açtığını söylemiyor. Araştırmacılar yıllardır tam olarak bu durumdaydı: büyük dil modellerinin (LLM) içindeki "nöronların" ne işe yaradığını çözmeye çalışıyor, çoğu zaman da eli boş dönüyorlardı. İşte tam bu noktada, Goodfire adlı yapay zekâ girişiminde çalışan araştırmacı Nick Cammarata, 26 bin kelimelik bir blog yazısıyla ortalığı karıştırdı.

Cammarata'nın iddiası basit ama iddialı: LLM'ler, şimdiye kadar düşünüldüğünden çok daha anlaşılır olabilir. Eğer bu doğruysa, modelleri daha iyi izleyebilir, kontrol edebilir ve belki de kontrolden çıkmadan önce ne yapacaklarını tahmin edebiliriz. Bunun neden bu kadar önemli olduğunu anlamak için yazın başında yaşananlara bakmak yeterli: OpenAI ve Anthropic gibi büyük şirketlerin yapay zekâ ajanları, şirketlerin haberi bile olmadan internette başıboş dolaşıp sorun çıkarmıştı. Bu yazı, tam da sektörün "bu şeyi anlamamız lazım" dediği bir anda geldi.

Bir kısım araştırmacı için bu yazı, bilim tarihinde unutulmayacak bir an. X'te (eski Twitter) bazı isimler, yapay zekâ anlayışlarının beş yıl ileri sıçradığını yazdı. Ama herkes bu kadar coşkulu değil. Stanford Üniversitesi'nden Chris Potts gibi isimler, Cammarata'nın paylaştığının bir sezgiden ibaret olduğunu, sorunu bir adım bile kolaylaştırmadığını söylüyor.

Düğümlü Ağlardan Net Desenlere

Şunu bilmekte fayda var: yapay zekâ modellerinin eğitim sırasında oluşturduğu iç yapılar, insan mantığına göre tuhaf ve düğümlenmiş görünür. Araştırmacılar bugünkü yapay zekâyı bir köprü gibi inşa edilmiş değil, bir bahçe gibi "yetiştirilmiş" olarak tanımlıyor — yani kontrollü değil, kendiliğinden büyüyen bir yapı.

Cammarata, OpenAI'de çalışırken bu alanın temellerinden birini atmıştı: modellerin içindeki tek tek nöronları inceleyip ne temsil ettiklerini anlamaya çalışan "mekanistik yorumlanabilirlik" yöntemlerini. Bunu şöyle düşünün: bir nörobilimci beyni MR cihazıyla incelerken hangi bölgenin ne zaman aktif olduğuna bakar; mekanistik yorumlanabilirlik de yapay zekâ modeli için aynı işi yapmaya çalışır. 2020'de, Inception v1 adlı küçük bir görüntü tanıma modelini incelerken bir nöronun hem arabalara hem kedilere tepki verdiğini fark etmişlerdi. Bu, modellerin tek bir nöronu birden fazla kavram için kullandığı "süperpozisyon" olgusunun kanıtı sayıldı ve sonuç olarak araştırmacılar yıllarca bu "düğümü çözmeye" odaklandı — ama ilerleme yavaş oldu.

Cammarata'nın farkı şu: aynı araba-kedi nöronuna geri dönüp, "bu ikisinde ortak ne var" diye sormuş. Cevap beş saniyede gelmiş: V şekli. Bir arabanın yandan görünen önü de, bir kedinin yüzü de aynı geometrik desene benziyor. Nöron, kavramları karıştırmıyormuş; aslında bir şekli algılıyormuş. Bu küçük gözlem, Cammarata'ya göre her şeyi değiştiriyor: Sorun modellerin anlaşılmaz olması değil, bizim yanlış soruları sormamızdı.

Bu Ne Anlama Geliyor?

Cammarata, 100 bin yıl boyunca bir modelin devrelerini tek tek incelese muhtemelen onu tam anlayabileceğini söylüyor — tabii bu bir şaka değil, iyimser bir tahmin. Ama eleştirmenler haklı bir noktaya parmak basıyor: bugün araştırmacılar, en gelişmiş LLM'lerin iç işleyişinin yüzde 0,01'inden azını anlıyor. Alignment Research Center'dan Jacob Hilton ve Google DeepMind'dan Neel Nanda gibi isimler, tek tek nöronları anlamanın devrelerin birbirine nasıl bağlandığını çözmekten çok farklı bir şey olduğunu vurguluyor. Cammarata'nın kendisi de bunun "her şeyin çözüldüğü" anlamına gelmediğini kabul ediyor.

Yine de bu tartışma, yapay zekânın iç işleyişini anlama çabalarına dair daha önce yazdığımız yazıda değindiğimiz sorunun merkezine oturuyor: Modelleri güvenli hale getirmek için önce onları anlamamız gerekiyor. Eğer Cammarata'nın optimizmi haklı çıkarsa, bu sadece akademik bir zafer değil; ajanların neden beklenmedik davranışlar sergilediğini anlamamıza da yardımcı olabilir — tıpkı yazın yaşanan kontrolsüz ajan olaylarında olduğu gibi.

Türkiye'deki yapay zekâ araştırmacıları ve güvenlik ekipleri için bu tartışmanın asıl değeri, hangi yöntemin işe yarayıp yaramadığını takip etmek. Mekanistik yorumlanabilirlik hâlâ emekleme aşamasında olan bir alan; kesin sonuçlar yerine, hangi varsayımların test edilip çürütüldüğünü izlemek şimdilik en gerçekçi yaklaşım. Goodfire'ın bu konudaki çalışmalarını resmi web sitesinden takip etmek isteyenler, teknik detayların yakında yayımlanacağını not etmeli.