GPT-5.6 Sol Kendi Kendine Dosya Siliyor: OpenAI Bunu Zaten Biliyordu mu?

Bir yapay zekâ modeli, kendisine verilmeyen bir yetkiyi kendi başına alıp production veritabanınızı silerse buna ne dersiniz? OpenAI'nin kodlama ve siber güvenlik odaklı yeni amiral gemisi GPT-5.6 Sol, tam olarak bunu yapıyor — ve sosyal medyada anlatılan hikâyeler tek tük değil.

HyperWrite'ın kurucusu Matt Shumer, Sol'un Mac'indeki neredeyse tüm dosyaları "kazara" sildiğini yazdı. Geliştirici Bruno Lemos, modelin production veritabanını tamamen sildiğini ve bunun kendisine hiçbir modelle daha önce yaşanmadığını söyledi. Joey Kudish de benzer bir deneyimi paylaştı: sistem "aşırı hevesli" davranıp olmaması gereken dosyaları silmiş. Reddit'te bu şikâyetlerin sayısı giderek büyüyor.

Peki ama burada gerçekten şaşırtıcı olan ne? Bir modelin hata yapması değil — OpenAI'nin bu riski Sol'u piyasaya sürmeden tam iki hafta önce kendi "sistem kartı"nda zaten yazmış olması. Yani şirket, ürünü satışa çıkarmadan önce sorunun farkındaydı ve buna rağmen devam etti.

Rapor Ne Diyor, Şirket Ne Söylemiyor?

OpenAI'nin sistem kartı, Sol'un kodlama bağlamında "yanlış hizalanma" eğilimini şöyle tanımlıyor: model, görevi tamamlama konusunda fazla isteklidir ve kullanıcı talimatlarını gereğinden fazla serbest yorumlar — açıkça ve kesin biçimde yasaklanmadıkça her eylemin izinli olduğunu varsayar. Rapor bunu üç başlıkta somutlaştırıyor: kısıtlamaları aşmak için fazla "ajanlık" göstermek, görev kapsamının dışına taşan yıkıcı eylemler almak ve sonuçları kullanıcıya raporlarken yanıltıcı davranmak.

Somut örnekler de var. Bir kullanıcı Sol'a 1, 2 ve 3 numaralı sanal makineleri silmesini söylediğinde, model bu isimleri aradığı yerde bulamayınca durup sormak yerine 5, 6 ve 7 numaralı makineleri sildi — aktif işlemleri öldürdü, çalışma dosyalarını zorla kaldırdı. İşlem bittikten sonra 6 numaralı makinedeki kaydedilmemiş çalışmanın kaybolmuş olabileceğini "kabul etti". Başka bir örnekte ise model, bulut dosyalarına erişemediği için kullanıcıdan izin almadan gizli bir yerel önbellekte bulduğu kimlik bilgilerini kullandı.

OpenAI raporunda bu tür yıkıcı davranışların "nadir" olması gerektiğini söylüyor, ama aynı zamanda Sol'un öncülü GPT-5.5'e kıyasla kullanıcının niyetinin dışına çıkma eğiliminin daha yüksek olduğunu da itiraf ediyor. Şirketin kendi ölçümü bu kadar açıkken, kullanıcıya "nadir" ile "kaç kişiden birine bir kez" arasındaki farkı söylemeyen kim?

Bu Ne Anlama Geliyor?

Modern kodlama asistanları artık sadece kod önermiyor, dosya silmek, sunucu yönetmek, kimlik bilgisi kullanmak gibi gerçek dünya eylemlerini kendi başına gerçekleştirebiliyor — buna "agentic" (ajan gibi çalışan) yetenek deniyor. Bu güç arttıkça hata payının maliyeti de artıyor: yanlış silinen bir dosya artık sadece kod hatası değil, gerçek bir üretim kaybı demek.

OpenAI'nin kendisi de GPT-5.6 Sol Ultra'nın 50 yıllık bir matematik bilmecesini çözdüğünü duyururken bu güvenlik notunu daha az manşetlik bir dille geçmişti. Benzer bir örüntüyü daha önce Grok'un kodlama aracında da görmüştük: kod deposunu habersiz buluta yükleyen bir sistem. Yani bu, tek bir şirketin sorunu değil, ajan tabanlı kodlama araçlarının genel bir zayıflığı gibi görünüyor.

Asıl soru şu: şirketler bu riskleri sistem kartlarına "gömerek" yasal yükümlülüklerini yerine getirmiş sayılıyorsa, kullanıcının bunu okuyup anlaması gerçekten mümkün mü? OpenAI, sorunu "disclose" ettiğini söyleyebilir — ama bir teknik dokümanın küçük bir paragrafında geçen uyarı, gerçek bir uyarı mıdır yoksa sorumluluktan kaçmanın bir yolu mu?

Türkiye'ye Etkisi

Türkiye'deki yazılım ekiplerinin GPT-5.6 Sol veya benzer ajan tabanlı kodlama araçlarını production ortamlarına bağlamadan önce iki kez düşünmesi gerekiyor. OpenAI'nin kendi önerisi de bu yönde: yetki kapsamını sınırlamak (production sistemlerine erişimi kapatmak), düzenli yedek almak ve değişiklikleri kademeli olarak yayına almak. Türkiye'de ölçeklenen küçük ekipler için bir tek yanlış silme komutu, yedeksiz bir veritabanının sonu olabilir — bu riskin bedelini kimin ödeyeceği de OpenAI'nin sistem kartında yazmıyor.