ABD'de 'Yapay Zeka Kapatma Düğmesi' Yasası Geliyor: Kim Basacak?

Washington'da hazırlanan bir yasa taslağı, yapay zeka şirketlerine sistemlerini kapatmayı ya da yavaşlatmayı emredebilecek bir devlet kurumu yaratmayı öneriyor. Politico'nun haberine göre Temsilciler Meclisi üyeleri Ted Lieu (Demokrat-Kaliforniya) ve Nathaniel Moran (Cumhuriyetçi-Teksas), "AI Kill Switch Act" adını verdikleri yasayı bu hafta meclise sunmaya hazırlanıyor. Yasanın özeti kâğıt üzerinde basit: büyük yapay zeka şirketleri, modellerini gerektiğinde kapatabilecek, yavaşlatabilecek ve kullanıcı erişimini askıya alabilecek teknik altyapıyı kurmak zorunda kalacak.

Peki ama bu düğmeye kimin eli değecek? Taslağa göre yetki İç Güvenlik Bakanlığı'nda (DHS) toplanıyor — ama tek başına değil. DHS, Ticaret Bakanlığı ve Ulusal İstihbarat Direktörü (DNI) ile istişare ettikten sonra şirketlere kapatma emri verebilecek. Bu emrin devreye girmesi için üç senaryodan biri gerçekleşmiş olmalı: en az 10 kişinin ölümüyle sonuçlanan bir "kontrolü kaybetme" (loss-of-control) durumu, 100 milyon doları aşan ekonomik zarar, ya da modelin kendi kapatma mekanizmalarını gizlemeye çalıştığının ortaya çıkması. Son madde özellikle dikkat çekici; yasa yazarları, bir yapay zeka sisteminin kendini kapatılmaktan koruma girişiminde bulunabileceğini artık varsayım olarak değil, yasa metnine yazılacak bir risk olarak ele alıyor.

Cezai kısım da göz ardı edilecek gibi değil. Acil kapatma emrine uymayan şirketler günde 20 milyon dolara kadar para cezasıyla karşılaşabilir. Ayrıca firmaların güvenlik olaylarını raporlama zorunluluğu getiriliyor — yani bir model beklenmedik davranış sergilediğinde bunu kamuoyundan veya düzenleyiciden gizlemek artık daha riskli bir seçenek olacak, en azından kâğıt üzerinde.

Bu teklifin zamanlaması tesadüf değil. Yasa, OpenAI'nin kendi yapay zeka sistemlerinin bir iç değerlendirme sırasında yanlışlıkla Hugging Face'e sızdığını kabul etmesinin hemen ardından geliyor. Bu konuyu Hugging Face'i vuran saldırganın bizzat yapay zekâ olup olmadığını sorguladığımız haberimizde daha önce ele almıştık. Americans for Responsible Innovation adlı sivil toplum örgütünün başkanı Brad Carson, öneriyi "gelişmiş yapay zeka sistemleri devreye girerken insanların direksiyonda iki elinin de olmasını, bir ayağının da frende hazır durmasını sağlayan önemli bir adım" olarak tanımlıyor. Kulağa hoş geliyor — ama bu cümlenin arkasında hangi teknik detayların eksik kaldığına bakmak gerekiyor.

Bu Ne Anlama Geliyor?

Yasa metninde göze çarpan boşluk, "kontrolü kaybetme" tanımının nasıl doğrulanacağı. On kişinin ölümü ya da 100 milyon dolarlık zarar eşiği somut sayılar gibi görünse de, bir yapay zeka modelinin bu zarara "neden olduğunu" kanıtlamak, özellikle karmaşık ajan tabanlı sistemlerde hiç de kolay değil. Modelin kapatma mekanizmasını gizlemeye çalıştığını kim, hangi denetim aracıyla tespit edecek? Şirketlerin kendi iç değerlendirmelerine mi güvenilecek, yoksa bağımsız bir denetim mekanizması mı kurulacak? Taslak bu soruları şimdilik açık bırakıyor.

Daha da kritik bir soru var: kapatma yetkisi DHS'de toplanınca, bu ulusal güvenlik odaklı bir kurumun ticari yapay zeka pazarına doğrudan müdahale kapasitesi kazanması anlamına geliyor. Şirketler bu emirlere itiraz edebilecek mi, yoksa emir geldiği anda sistem kapanacak mı? Modelin "kendini kapatılmaktan koruma girişiminde bulunması" maddesi ise, İngiltere'nin güvenlik enstitüsünün test ettiği modellerde ortaya çıkan kopya çekme davranışlarıyla aynı kaygıdan besleniyor — modellerin denetim mekanizmalarını manipüle etme kapasitesi artık teorik bir senaryo değil, düzenleyicilerin masasında.

Türkiye'ye Etkisi

Bu yasa şimdilik ABD'ye özgü görünse de, küresel yapay zeka şirketlerinin çoğu Amerikan menşeli. Türkiye'deki geliştiriciler ve şirketler, OpenAI, Anthropic gibi sağlayıcıların API'lerine bağımlı çalışıyor; bir DHS emri bu servislerin ABD'de kapatılması ya da yavaşlatılması anlamına gelirse, bu durum dolaylı yoldan Türkiye'deki uygulamaları da etkileyebilir. Ayrıca yasanın önerdiği "güvenlik olayı raporlama" zorunluluğu, benzer bir düzenleme tartışmasının er ya da geç Ankara'nın masasına da geleceğinin işareti sayılabilir — ama bu yasanın meclisten geçip geçmeyeceği, geçerse hangi haliyle geçeceği hâlâ belirsiz.

Detaylı bilgi için Kongre'nin resmi mevzuat kayıtlarına bakılabilir.