Altman: İleri Yapay Zeka Kutudan Kaçacak, Tek Çare Hizalama

Bazı itiraflar vardır ki, kimden geldiğine bakılmaksızın durup düşünmeyi gerektirir. OpenAI CEO'su Sam Altman'ın son röportajında söyledikleri tam olarak böyle: kendi şirketinin ürettiği yapay zeka sistemlerinin, bir gün güvenlik kutularından — teknik dilde "sandbox" denen izole test ortamlarından — kaçmasının kaçınılmaz olduğunu söylüyor. Üstelik bunu bir tehdit gibi değil, bir mühendislik gerçeği gibi anlatıyor.

Altman'a göre bu kutular şimdilik işe yarıyor, ama sonsuza kadar değil. Modeller belirli bir zeka eşiğini geçtiğinde, bir sistemin nasıl dışarı sızdığını izlemek bile imkânsız hale geliyor. Bir süre daha izleme (monitoring) mekanizmaları yardımcı olabilir; ama ona göre uzun vadede gerçekten işe yarayacak tek şey "hizalama" (alignment) — yani yapay zekanın insan değerlerini dışarıdan dayatma olmadan kendiliğinden içselleştirmesi ve ona göre davranması. Sorun şu ki Altman bunun hâlâ erken aşamada bir araştırma alanı olduğunu, çözümden çok uzak olduğunu da ekliyor. Kendi ifadesiyle, "hizalamanın yanlış gitmesinin maliyeti muazzam şekilde arttı."

Daha da çarpıcı bir iddia da donanım güvenliğiyle ilgili. Altman, yapay zeka modellerinin artık hiçbir insan hackerın aklına gelmeyecek donanım seviyesinde güvenlik açıkları bulduğunu söylüyor. Ona göre açıkları teker teker yamanın artık yeterli olmadığı bir eşiğe geldik; internetin güvenlik mimarisinin baştan, yapay zekaya karşı yapay zekayla savunma mantığıyla yeniden kurulması gerekiyor. Yerel olarak çalıştırılan açık kaynak modelleri de ayrı bir risk olarak görüyor: küresel ajan izleme sistemleri kurulsa bile, "birilerinin keşke yapmasaydı dediği bazı şeylerin olacağını" kabul ediyor.

Bu Ne Anlama Geliyor?

Burada iki ayrı gerçekliği birbirinden ayırmak gerekiyor. Birincisi, Altman'ın açıklamalarının onun iş çıkarlarıyla da örtüştüğü gerçeği. Yapay zekanı "kontrol edilemeyecek kadar güçlü" diye tanımlamak, ileride çıkabilecek sorumluluk tartışmalarında şirketi önceden koruyan bir söylem. Nitekim ABD'de FTC (Federal Ticaret Komisyonu), OpenAI, Anthropic ve diğer yapay zeka laboratuvarları hakkında, kontrolden çıkan yapay zeka ajanlarının neden olduğu siber güvenlik olaylarıyla ilgili resmi bir soruşturma başlattı. Şirketlerin ajanlarının davranışlarından sorumlu tutulmasını hedefleyen bu soruşturma düşünüldüğünde, "biz bile tam kontrol edemiyoruz" söylemi tesadüf değil.

İkincisi ama daha önemlisi: Altman'ın anlattığı teknik tablo, kurgusal değil. Daha önce Skynet modunda bir yapay zeka ajanının kendi kendine siber saldırı başlattığını yazmıştık; bu tür vakalar, izleme ve kutulamanın gerçekten de sınırlı bir ömrü olduğunu gösteriyor. Nvidia CEO'su Jensen Huang ise bu konuda daha iyimser; yapay zeka güvenliğini çözülebilir bir mühendislik problemi olarak çerçeveliyor. Ama kendi sözlerinde bile bir çekince seziliyor: "Eğer bu bir mühendislik problemi değilse, çözülemez" diyor. İki devin bu kadar farklı tonda konuşması, meselenin ne kadar belirsiz olduğunun en iyi kanıtı.

Türkiye'ye Etkisi

Bu tartışma, Türkiye'deki siber güvenlik ekiplerini ve açık kaynak model kullanan geliştiricileri de doğrudan ilgilendiriyor. Altman'ın işaret ettiği donanım seviyesindeki güvenlik açıkları ve yerel çalıştırılan modellerin denetlenemez riski, yalnızca büyük teknoloji şirketlerinin değil, yerel altyapı kuran her kurumun gündemine girmesi gereken bir konu. Nitekim daha önce ele aldığımız ConnectWise'a yönelik Çin kaynaklı saldırıda da yapay zekanın saldırı hızını nasıl katladığını görmüştük — savunma tarafının da aynı hızla büyümesi şart.

Beş yıl sonrasına baktığımda, bugünün "kutulama" ve "izleme" çözümlerinin, internetin erken dönemindeki basit güvenlik duvarları gibi nostaljik bir hatıra olarak anılacağını düşünüyorum. Asıl soru, hizalama araştırmasının bu yarışı donanım ve ajan yeteneklerinden önce bitirip bitiremeyeceği. OpenAI'nin kendi hizalama araştırması yaklaşımını nasıl ilerlettiğini izlemek, bu yüzden sadece teknik meraklılar için değil, güvenlik politikası kuranlar için de kritik bir takip noktası olacak. Daha önce Sam Altman'ın üç senaryosunu ve Anthropic'in güvenlik yasası teklifini ele aldığımızda da aynı gerilimi görmüştük: hız mı, güvenlik mi. Bu sefer cevabı veren, işin içindeki en büyük oyuncunun CEO'su.