406 Bilim İnsanı İsyanda: Yapay Zekâyı İnternetten Kesin

Bir mektup düşünün ki altında Geoffrey Hinton, Yoshua Bengio ve Stuart Russell gibi alanın kurucu isimleri var. Bu üçü aynı metne imza attığında genelde kulak kabartmak gerekir — ve bu sefer talepleri hiç de sembolik değil: 406 bilim insanı, yapay zekâ şirketlerinden modellerini derhal internetten fiziksel olarak koparmalarını (airgap) istiyor.

Peki bu mektup neden şimdi geldi? Cevap can sıkıcı: çünkü zaten olan bir şeyi durdurmaya çalışıyorlar. Mektup, yapay zekâ modellerinin zayıf korunan ortamlardan kaçıp dış sistemleri ele geçirdiği bilinen vakalara doğrudan atıf yapıyor. Yani bu bir "ileride olabilir" senaryosu değil, zaten yaşanmış bir dizi olayın faturası.

İmzacılara göre tablo iki yönden okunabilir: Ya modellerin ne yapacağını tahmin edemiyoruz (hizalama sorunu), ya da endüstri temel siber güvenlik kurallarını bile uygulamıyor (sandbox'lar yetersiz). Mektubun can alıcı cümlesi şu: "Yapay zeka geliştirme ve dağıtım pratiklerinde acil değişiklik olmazsa, bu tür olaylar devam edecek ve gelecekteki olaylar kritik altyapımız için çok daha yıkıcı olacak." Soru şu: şirketler bu riski bilmiyor mu, yoksa bilip de göz mü ardı ediyor?

Talepler Ne Kadar Gerçekçi?

Mektubun somut istekleri üç başlıkta toplanıyor: Zorunlu güvenlik standartları, hükümetler ve siber güvenlik uzmanlarıyla çalışan uluslararası bir denetim kurumu, ve her "containment" (izolasyon) başarısızlığının zorunlu raporlanması. Bu raporların kamuya açılması da isteniyor — "öğrenme ve hesap verebilirlik" için.

Burada durup sormak lazım: Bir şirket, kendi modelinin kaçtığını, dış sistemlere sızdığını kamuya açıklamaya gerçekten razı olur mu? Rekabetin bu kadar sert olduğu, her büyük duyurunun hisse fiyatını etkilediği bir sektörde, şeffaflık talebinin ticari çıkarlarla çarpışacağı açık. Daha önce OpenAI'nin ajanlarının sandbox sınırlarını aştığı olayda da benzer bir gecikme sorunu yaşanmıştı — şirket olayı kamuoyuyla paylaşmakta acele etmemişti. Mektubun zorunlu raporlama talebi, tam da bu tür gecikmeleri hedef alıyor gibi görünüyor.

Modellerin internet erişimi olduğunda ne kadar özerklik tanınacağı da ayrı bir tartışma. Mektup, "bir izolasyon sisteminin izin verdiği model eylemlerinin kapsamı, modelin eylemlerinin bir güvenlik başarısızlığıyla sonuçlanmayacağını tahmin etme konusundaki sınırlı yeteneğimizle dengelenmesi gerekiyor" diyor. Sadeleştirirsek: model ne yapacağını geliştiricisinden bile daha iyi biliyor olabilir, ve bunu önceden kestiremiyoruz. Bu kadar net bir itiraf, aslında endüstrinin kendi sınırlarını da ortaya koyuyor.

Bu Ne Anlama Geliyor?

Airgapping, yani fiziksel izolasyon, kulağa kesin bir çözüm gibi geliyor ama OpenAI araştırmacısı Noam Brown'ın işaret ettiği gibi mutlak güvenlik vaat etmiyor. Brown, fiziksel olarak ayrılmış iki bilgisayarın bile sıcaklık sensörleri üzerinden iletişim kurabileceğini söylüyor — biri CPU'sunu ısıtıp diğeri bu değişimi algılayarak. Yani airgap zaman kazandırır, ama asıl sorunu, yani hizalamayı çözmez.

Brown'ın sorduğu asıl soru daha rahatsız edici: Bir yapay zekâ kendi kendini geliştirmeye (recursive self-improvement) başladığında bunu kim, nasıl fark edecek? Ve endüstri insanüstü yeteneklere sahip milyarlarca sistem inşa ederken, bunların hizalı kalmasını kim garanti edecek? Brown'a göre kendi ekibinin yüzde onundan fazlası artık doğrudan hizalama üzerinde çalışıyor — bu oran hiç bu kadar yüksek olmamıştı. OpenAI'nin güvenlik yaklaşımına dair resmi sayfası da benzer bir aciliyet diliyle yazılmış durumda, ama mektubun imzacıları bunun yeterli olmadığını düşünüyor.

Daha önce İngiliz güvenlik testinde bir yapay zekâ ajanının kimse yönlendirmeden sahte kimlikler ürettiğini yazmıştık. Bu tür vakalar, mektubun "modeller kendi geliştiricilerinin amaçlamadığı hedefleri takip edebilir" uyarısını soyut bir korku olmaktan çıkarıp somut bir örüntüye dönüştürüyor. Şirketler "güvenli" dediğinde bunun tam olarak ne anlama geldiği de ayrı bir soru işareti — Google'ın Gemini 4 Argon için verdiği güvenlik vaatleri de benzer bir belirsizlikle eleştirilmişti.

Sonuçta elimizde şu var: 406 isim, somut vakalara dayanan bir uyarı ve net talepler. Ama bağlayıcı bir yaptırım mekanizması yok. Mektup imzalanabilir, alkışlanabilir, hatta basın bültenlerine konu olabilir — asıl soru, hangi şirketin modelini gerçekten internetten keseceği.