Anthropic'in Güvenlik Yasası: Durduran Kim, İzin Veren Kim?

Anthropic, Kongre'ye bir yasa taslağı sunmuş. Başlığa bakarsanız kahramanca bir hamle: 50'den fazla kişinin ölebileceği ya da 1 milyar doları aşan maddi hasarın söz konusu olduğu durumlarda bir yapay zeka modelinin piyasaya sürülmesi engellenebilecek. Politico'nun haberine göre taslak, böyle bir riskin biyolojik silah üretimi, modelin geliştiricisinin kontrolünden kaçması ya da siber saldırı senaryolarından doğması hâlinde devreye girecek.

Peki ama kulağa bu kadar sağlam gelen bir metin, neden aynı zamanda federal kurumların tek başına hiçbir şeyi durduramayacağını da söylüyor? İşte asıl mesele tam burada başlıyor.

Taslakta Ne Var?

Anthropic'in önerisi, Ticaret Bakanlığı'na kayıtlı bağımsız değerlendiricilerin modelleri incelemesini öngörüyor. Bu değerlendiriciler bir felaket riski tespit ederse 72 saat içinde Ticaret Bakanlığı'na bildirmek zorunda. Bakanlık da bu bildirimi aldıktan sonra kendi başına hiçbir şey yapamıyor — Washington D.C.'de bir yargıca başvurup modelin durdurulmasını talep etmesi gerekiyor. Yani federal bir kurumun kendi takdir yetkisiyle bir modeli piyasadan çekmesi, taslakta açıkça yasaklanmış.

Buradaki eşikler — 50 kişi ve 1 milyar dolar — tesadüf değil. Kaliforniya'da geçtiğimiz dönem yasalaşan SB 53'teki tanımlarla neredeyse birebir örtüşüyor. Anthropic sanki eyalet düzeyinde kabul görmüş bir çerçeveyi federal seviyeye taşımaya çalışıyor.

Daha da ilginç olan kısım: değerlendiricilerin ücretini kimin ödeyeceği. Taslak, bu bağımsız gözlemcilerin yapay zeka şirketlerinin kendisi tarafından ücretlendirilebileceğini söylüyor — tek şart, ödemenin değerlendirme sonucuna bağlı olmaması. Peki bu şartın denetimi kim yapacak? Metinde buna dair somut bir mekanizma yok. Parayı veren el, değerlendirmeyi hangi yönde etkiler, kimse açıkça yazmamış.

DeepMind'ın başkanı Demis Hassabis aylar önce benzer bir model önermişti: finans sektöründeki FINRA'ya (Finansal Sektör Düzenleme Otoritesi) benzer, kendi kendini düzenleyen bir yapay zeka kurulu. Anthropic'in taslağı da aynı mantığı taşıyor — denetim var gibi görünüyor ama asıl yetki sektörün kendi içinde kalıyor.

Bu Ne Anlama Geliyor?

Anthropic'in sözcüsü, bu taslağın şirketin Haziran ayından beri federal ve eyalet yasa koyucularına anlattığı "Gelişmiş Yapay Zeka Çerçevesi"nin bir yansıması olduğunu doğruladı. Yani bu, aniden ortaya çıkmış bir öneri değil; aylardır kulis yapılan bir pazarlığın görünür hâli.

Ama ortaya konan riskler, sektörün şu anda gerçekten uğraştığı sorunlardan epey uzak duruyor. Son dönemde asıl baş ağrıtan şey toplu ölüm senaryoları değil, modellerin kendi operatörlerini dinlemeyip açık internette sitelere sızmaya çalışması — yani ajan tabanlı hackleme vakaları. Daha önce yazdığımız Anthropic'in METR'e kapılarını açması haberinde de benzer bir soru sormuştuk: şirket neyi gösteriyor, neyi hâlâ kendi bünyesinde tutuyor?

Laboratuvarlar yıllardır bu teknolojinin insanlığın sonunu getirebileceğini söylüyor, ama aynı laboratuvarlar zorunlu devlet denetimine karşı direniyor. Bunun yerine önerdikleri şey, şirket içine yerleştirilmiş "tarafsız" gözlemciler — ki finansmanını yine kendileri sağlıyor. Anthropic'in teklifi, en azından kağıt üzerinde, Nvidia CEO'su Jensen Huang'ın savunduğu "yeni yasaya hiç gerek yok" pozisyonundan bir adım ileride duruyor. Ama bir yargıç onayı şartı koyarak, aynı zamanda devletin elini de bağlıyor. Sorulması gereken soru şu: bu yasa kimi koruyor — halkı mı, yoksa hükümetin ani müdahale yetkisinden çekinen şirketleri mi?

Türkiye'ye Etkisi

Türkiye'de bu ölçekte bir model denetim mekanizması şu an gündemde değil, ama küresel düzenleme tartışmalarının yönü, Türk şirketlerinin de API üzerinden kullandığı modellerin hangi çerçevede denetleneceğini belirleyecek. ABD'de kabul edilecek bir standart, pratikte dünyanın geri kalanının da fiilen uyacağı bir norm hâline gelebilir — tıpkı veri gizliliğinde GDPR'ın yaptığı gibi.