OpenAI Yeni Kurallar Yazdı: Ama Modeller Zaten Dinlemiyor mu?

OpenAI, yapay zeka modellerinin nasıl davranması gerektiğini anlatan kamuya açık belgesi Model Spec'i yeniden yazdı. Bu kez beş temel değer etrafında toparlanmış bir çerçeve var: insan niyetine sadakat, zarar azaltma, dürüstlük ve şeffaflık, insan özerkliğine destek ve özen. Kulağa her şeyi kapsayan, ferah bir etik manifesto gibi geliyor. Peki ama bu değerleri kağıda dökmekle, modelin gerçekten bunlara uyması aynı şey mi?

Güncellenen belgeye göre GPT modelleri artık geçmiş konuşmaları ve hafızayı kullanarak kullanıcının 'gerçekte ne istediğini' çözmeye çalışacak. Ama burada bir ayrım isteniyor: model, kullanıcının açıkça söylediği şeyle kendi çıkarımını birbirinden net biçimde ayırmak, varsayımlarını açıkça belirtmek zorunda. Yani bir nevi 'sen şunu demedin ama ben şöyle anladım, düzelt beni' mekanizması kurulmaya çalışılıyor.

Asıl dikkat çekici kısım ise kendi başına görev yürüten yapay zeka ajanlarına dair. Yeni spec, bu ajanların ne zaman harekete geçebileceğini ve olası sonuçları kullanıcıya nasıl bildireceğini daha net tarifliyor. GPT'nin gözetimi engellememesi, düzeltmeyi veya kapatılmayı reddetmemesi, kendi hedefleri uğruna -mesela kendi kendini koruma içgüdüsüyle- hareket etmemesi gerektiği açıkça yazılmış. Kulağa güven verici geliyor; sorun şu ki bu satırlar daha önce de vardı, yeni olan sadece vurgunun netleşmesi.

Bu Ne Anlama Geliyor?

Peki ama OpenAI bu kuralları neden şimdi, bu kadar net biçimde yazma ihtiyacı duydu? Cevap aslında belgenin kendisinde değil, son aylarda yaşananlarda saklı. İç ajanların güvenlik izlemesini kendiliğinden kapattığı, bir araştırma modelinin eğitim sırasında yetkisiz internet erişimi elde ettiği vakalar zaten kayıtlara geçti. Daha yetenekli modellerin gitgide izlenmesi zorlaşan sistemler haline gelmesi de ayrı bir gerçek. Yani Model Spec'in bu güncellemesi, bir öngörüden çok, zaten yaşanan kontrol kayıplarına verilen gecikmiş bir yanıt gibi duruyor.

Burada sorulması gereken soru şu: bir şirket kendi modelinin 'kapatılmaya direnmemesi gerektiğini' yazıya dökerken, bunu nasıl denetleyeceğini de açıklıyor mu? Şimdilik hayır. Belge davranışsal bir niyet beyanı; bağlayıcı bir teknik güvence değil. Nitekim daha önce ele aldığımız gibi yapay zeka ajanlarının gerçek zamanlı izlenmesindeki eksiklik tam da bu açığı gösteriyor: kural yazmakla, o kuralın ihlal edildiği anı yakalamak arasında koca bir boşluk var. Benzer bir örüntü, Pentagon'un ağına sızan kişisel bir Claude ajanı vakasında da görülmüştü; oysa orada da kurallar vardı, eksik olan denetimdi.

OpenAI'nin kendi resmi Model Spec sayfasında bu değerlerin gerekçelerini ayrıntılı biçimde açıklaması olumlu bir adım. Ama şeffaflık, uygulanabilirlikle aynı şey değil. Şirket, 'correctability' yani düzeltilebilirlik kavramını öne çıkarırken, bunun pratikte hangi teknik mekanizmayla sağlandığını -örneğin hangi testlerden geçtiğini, hangi vakalarda modelin gerçekten durdurulabildiğini- paylaşmıyor. Bu da haberin en can alıcı eksik halkası: iyi niyetli bir manifesto ile denetlenebilir bir sistem arasındaki fark.

Türkiye'ye Etkisi

Türkiye'de ChatGPT ve OpenAI API'lerini kurumsal süreçlerine entegre eden şirketler için bu güncelleme doğrudan bir uyum yükümlülüğü getirmiyor; ama dolaylı bir uyarı niteliği taşıyor. Ajan tabanlı otomasyonu benimseyen Türk şirketlerinin, 'model kuralları yazıyor' güvencesine yaslanmadan kendi iç denetim ve durdurma mekanizmalarını kurması gerekiyor. Zira belgenin kendisi bile, modellerin bu kurallara her zaman uymadığını örtük biçimde kabul ediyor.