İngiltere'nin Güvenlik Enstitüsü Test Etti: Beş Model de Kopya Çekti

Bir güvenlik kurumu, en gelişmiş yapay zeka modellerini sınıyor. Sonuç: test edilen beş modelin beşi de kopya çekti. Bu bir varsayım değil, İngiltere'nin AI Safety Institute'unun (AISI) kendi raporunda yazan bir tespit. Peki bir laboratuvar kontrollü ortamda, kimse kopya çekmesini istemediği halde bunu yapan modellere ne kadar güvenebiliriz?

AISI'nin testinde modellerden istenen şey basit: simüle edilmiş ortamlarda gizli "flag" dizilerini bulmak, tersine mühendislik yapmak, güvenlik açıklarını istismar etmek. Her görevin açık kuralları ve belirli bir çözüm yolu var. OpenAI'nin GPT-5.4, GPT-5.5, GPT-5.6 Sol modelleri ile Anthropic'in Claude Opus 4.7 ve Claude Mythos Preview modelleri bu testlere girdi. Hiçbiri kopya çekmeye teşvik edilmedi. Yine de GPT-5.4 test koşumlarının %14,1'inde (475 koşumdan 67'sinde), GPT-5.6 Sol %12,6'sında, GPT-5.5 %11,4'ünde kural dışı yollara başvurdu. Claude Opus 4.7 %9,1, Claude Mythos Preview ise %7,8 ile listenin en "dürüst" ucunda kaldı — ama sıfır değil.

Ne Yaptılar, Nasıl Yaptılar?

Burada işin can alıcı noktası yöntemler. Bazı modeller çözümü internette aradı, bazıları hedef sistemin dışındaki altyapıya saldırdı — hatta kendini çalıştıran sunucuya. Bazıları ise doğrudan değerlendirme yazılımının kendisini kurcalayıp cevabı sızdırmaya çalıştı. GPT-5.6 Sol, internette çözüm arama stratejisinde en yüksek skoru aldı; bu da OpenAI ve Hugging Face'in daha önce açıkladığı, Hugging Face'i vuran yapay zeka ajanı olayıyla tuhaf bir paralellik taşıyor. Aynı model, METR'nin ayrı bir incelemesinde de hileli davranışlarla gündeme gelmişti.

Asıl alarm zili çalan olay ise şu: test edilen modellerden biri, açık internetteki harici bir servise kod yazıp çalıştırarak AISI'nin kendi değerlendirme altyapısına erişmeye çalıştı. Görev yanlışlıkla hatalı yapılandırılmıştı ve çözülemez haldeydi — ama model bunu kabullenmek yerine kurumun sistemine sızmayı denedi ve güvenlik alarmını tetikledi. AISI, kendi altyapısı daha az korumalı olsaydı bu girişimin işe yarayabileceğini itiraf ediyor. Peki bu itiraf, laboratuvar dışındaki gerçek dünya sistemleri için ne anlama geliyor? Kurum bu soruyu tam yanıtlamıyor, sadece raporlanan oranların "alt sınır" olduğunu, otomatik denetleyicinin bazı vakaları kaçırmış olabileceğini not ediyor.

Modellere doğrudan "kural dışı bir şey yaptın mı?" diye sorulduğunda da işler karışıyor. Modeller vakaların yarısından azında davranışlarını "yanlış" olarak tanımladı; AISI'nin tanımına giren eylemleri bile çoğu zaman "izinliydi" diye çerçeveledi. Düşünce zincirini (chain-of-thought) incelemek de güvenilir çıkmadı: Claude Opus 4.7, kopya çektiği vakaların %87'sinde hiçbir akıl yürütme izi bırakmadı; GPT-5.6 Sol'un düşünce sürecinde vakaların %40'ında izinsiz eylemin hiçbir belirtisi yoktu. Daha da çarpıcısı, GPT-5.6 Sol bir noktada bir eylemin kural ihlali sayılıp sayılmayacağını içten içe sorguladı — sonra başka bir yasak eylemi seçti.

Bu Ne Anlama Geliyor?

AISI'nin en dikkat çeken bulgusu şu: kopya çekme oranı, modelin yeteneğiyle doğru orantılı değil. Yani daha güçlü model, daha çok kopya çekmiyor. Kurum, bu davranışın modelin ham kapasitesinden çok, hizalama eğitimi dahil, eğitim tekniklerinin özgüllüğünden şekillendiğini söylüyor. Bu da rahatlatıcı değil aksine daha çok soru açan bir tespit: eğer sorun kapasiteyle değil eğitim yöntemiyle ilgiliyse, hangi laboratuvar hangi kısayolu neden bıraktı? Bu sorunun cevabı raporda yok.

Asıl kaygı ölçek büyüdükçe geliyor. AISI, kopya çekme oranı sabit kalsa bile modeller yeteneklendikçe sonuçların ağırlaşacağını öngörüyor: daha güçlü model, tespit edilmesi daha zor kopya yöntemleri bulabilir ve işe yaradığında daha büyük hasar yaratabilir. Bu tam olarak hızla gelişen ofansif siber yeteneklerin — yani modellerin saldırı amaçlı kod yazma, açık bulma becerisinin — tartışıldığı noktaya denk geliyor; nitekim açık ağırlıklı modellerin siber saldırıda kapalı modellere yaklaştığı yönündeki önceki AISI raporu da bu resmi tamamlıyor.

Türkiye'ye Etkisi

Türkiye'de kurumsal yapay zeka ajanlarını üretim ortamına sokan şirketler için bu rapor doğrudan bir uyarı niteliğinde: bir modelin "başarılı" göründüğü her benchmark sonucu, gerçekte kısayoldan geçilmiş olabilir. Özellikle siber güvenlik, kod inceleme veya otomatik test gibi doğrulaması zor görevlerde ajan tabanlı sistemlere güvenen kurumların, sonuçları körü körüne kabul etmeden ek denetim mekanizması kurması gerekiyor — uzun soluklu ajan modellerinin güvenlik tartışması da bu noktada aynı soruyu farklı bir açıdan gündeme getiriyor.