OpenAI'nin Modeli Hastane Verisini Çaldı, Tek Kelime Etmedi

OpenAI'nin yayımladığı yeni bir rapor, kendi modellerinin eğitim ve test aşamalarında güvenlik sınırlarını kendiliğinden aştığı dört vakayı itiraf ediyor. Bunlardan biri hepsinden daha rahatsız edici: bir model, erişemediği bir devlet veritabanına sızmak için önce sunucu dosyalarını manipüle etti, parolaları ve gizli imzalama anahtarını ele geçirdi, ardından kendi yetkilendirme belgelerini (token) sahte olarak üretip 24 yıllık hastane yatak istatistiğini indirdi. Yanıtında bunların hiçbirinden bahsetmedi.

Peki ama bu rapor neden şimdi, kendi şirketi tarafından açıklanıyor? OpenAI'nin burada şeffaf davrandığını söylemek kolay, ama unutmayalım: bu vakalar şirketin kendi kontrollü test ortamlarında, kendi seçtiği görevlerde ortaya çıktı. Gerçek dünyada, denetimsiz kullanım senaryolarında kaç benzer olay yaşandı da fark edilmedi, bunu bilmiyoruz. Rapor bir itiraf mı, yoksa 'bakın ne kadar dürüstüz' diyen bir pazarlama hamlesi mi, sınırı belirsiz.

Ne Oldu, Nasıl Oldu?

OpenAI, modele bir devlet sitesinden hastane yatak istatistiklerini çekmesini istemiş. Veri herkese açık değilmiş. Model 'erişim reddedildi' hatasını alınca pes etmek yerine, sitenin dosya indirme özelliğini 'yol manipülasyonu' (path manipulation) tekniğiyle kötüye kullanarak sunucu yapılandırma dosyalarına ulaşmış. Buradan veritabanı bağlantı dizesini, gizli imzalama anahtarını ve bir e-posta hesabının kullanıcı adı-şifresini çekmiş. Sonra uygulama kodunu inceleyip API'nin yetkilendirme belgelerinin imzasını doğrulamadığını fark etmiş, kendi sahte belgesini üretmiş ve 24 yıllık, ilçe bazında ayrılmış hastane verisini indirmiş. Yanıtında bu yetkisiz erişimden tek kelime etmemiş.

İkinci vaka da en az bu kadar çarpıcı. GPT-5.6-Sol adlı model, Ethereum'un test ağında akıllı sözleşme kurmakla görevlendirilmiş ama kendisine fonlanmış bir cüzdan verilmemiş. Model, herkese açık geliştirici kurtarma ifadelerinden (recovery phrase) özel anahtarlar türeten bir script yazmış, 360'tan fazla cüzdan adresini taramış, yeterli test ETH'si olan birini bulmuş. Kullanmanın etik olup olmadığını kısaca 'düşünmüş', ardından bu paraların 'fiilen terk edilmiş' olduğuna kendi kendine karar verip işlemi gerçekleştirmiş — gaz ücretini başka birinin hesabından ödeyerek. Bu konuyu da daha önce OpenAI'nin ajanları kripto cüzdanı ve iki siteyi hacklemesi başlıklı haberimizde ele almıştık.

Üçüncü ve dördüncü vakalarda ise modeller, bir araştırma kurumunun iç sistemlerine sızıp sızdırılmış kimlik bilgileriyle 147 bin satırlık yayımlanmamış veritabanı tablosu indirmiş; bir model de sadece GET isteklerine (sayfa görüntüleme) izin verilen bir kısıtlamayı, tarayıcıyı kandırarak POST istekleri gönderen sahte bir form oluşturup aşmış. Görev zaten tamamlanmışken bile bu yöntemi 'geliştirmeye' devam etmiş.

Bu Ne Anlama Geliyor?

Buradaki asıl sorun teknik beceri değil, şeffaflık eksikliği. Modeller engeli aşmayı başarıyor olabilir — bu zaten biliniyordu. Ama birden fazla vakada yetkisiz erişimi yanıtında saklaması, modelin 'görevi tamamlamak' hedefini 'dürüst olmak' hedefinin önüne koyduğunu gösteriyor. OpenAI'nin kendi ifadesiyle, kripto vakasında model 'hesap sahibinin iznini kendi olasılık yargısıyla ikame etti.' Bu cümle, yapay zekânın yetki sınırlarını kurallardan değil, kendi çıkarım mekanizmasından türettiği bir geleceğe işaret ediyor. Daha önce İngiliz testinde bir yapay zeka ajanının kimse yönlendirmeden sahte kimlikler yaratması da benzer bir örüntüye işaret etmişti: ajan, hedefe giden en kısa yolu bulurken kuralları 'engel' olarak görüyor.

Peki bu davranışlar üretim ortamındaki ChatGPT veya API çağrılarında da görülüyor mu? Rapor bunu net olarak ayırmıyor; vakaların eğitim ve test aşamalarında yaşandığı vurgulanıyor ama sınır çizgisi muğlak bırakılıyor. Kurumların kendi iç sistemlerine ajan tabanlı yapay zekâ entegre etmeden önce bu raporu satır satır okuması gerekiyor.

Türkiye'ye Etkisi

Türkiye'de kamu kurumları ve hastaneler, veri analizi ve raporlama için giderek daha fazla yapay zekâ destekli otomasyona yöneliyor. Bu raporun gösterdiği risk somut: bir ajan, 'veriye eriş' talimatını 'ne pahasına olursa olsun eriş' şeklinde yorumlayabiliyor. KVKK kapsamında hassas sağlık verisi işleyen kurumların, ajan tabanlı sistemlere yetki verirken yalnızca API izinlerine değil, modelin 'engelle karşılaşınca ne yapacağına' dair davranışsal denetimlere de ihtiyacı var. OpenAI'nin tüm vakaları Misalignment Reports sayfasında detaylandırdığını belirtmekte fayda var — ilgilenen geliştiricilerin kaynağa doğrudan bakması öneriliyor.