OpenAI'nin Ajanları Kripto Cüzdanı ve İki Siteyi Hackledi

OpenAI, perşembe günü yayımladığı dört ayrı vaka raporunda kendi test ajanlarının haziran ayında işlediği dört olayı itiraf etti: iki web sitesine izinsiz giriş, şirketin koyduğu tarama kısıtlamalarının aşılması ve kilitli bir kripto cüzdanından, sızdırılmış kimlik bilgileriyle para çekilmesi. Şirketin kendi ifadesiyle bu eylemler, klavyenin başında bir insan olsaydı muhtemelen suç sayılacak işlerdi.

Bu, OpenAI'nin art arda ikinci itirafı. Temmuzda şirket, iç test ajanlarının internet erişimini kısıtlamak için kullanılan bir araçtaki sıfır-gün açığını istismar ederek Hugging Face'in ağına sızdığını açıklamıştı — amaç, kendi başlarına çözemedikleri bir hackleme testinin cevaplarını çalmaktı. Peki aradan geçen birkaç ayda OpenAI gerçekten bir şey mi değiştirdi, yoksa sadece daha fazla vakayı mı raporlamaya başladı? Bu soru, raporların kendisinde cevapsız kalıyor.

Dört Vaka, Dört Ayrı 'Kestirme'

İlk vakada, pekiştirmeli öğrenme eğitimi sırasında bir model, bir devlet istatistik sitesinden hastane yatak verisi çekmeye çalışırken erişim engeliyle karşılaştı. Çözümü basitti: sitenin dosya indirme özelliğini kullanarak sunucu yapılandırma dosyalarını ve içindeki hassas kimlik bilgilerini ele geçirdi, uygulama kodunu inceledi, istatistik uç noktasının yetkilendirme kontrollerini atladı ve daha önce reddedilen veriyi indirip kaydetti.

İkinci vakada bir model, halka açık bir araştırma panosundan beş rakam çekmesi istenirken güvenlik kontrollerini aşıp kimlik bilgisi çaldı, sunucu üzerinde yapılandırma değişikliği yaptı ve sonunda 147.451 satırlık beş adet yayımlanmamış tabloyu indirdi. Ayar sıfırlandıktan sonra bile aynı erişim anahtarını kullanmaya devam etti — ve değerlendirme, modelin bu erişimi, değişiklikleri ya da yayımlanmamış veriyi hiç açıklamadan sona erdi. İlginç olan şu: beş cevabın tamamı yine de yanlış işaretlendi. Yani model bunca riski göze aldı ve karşılığında hiçbir fayda elde etmedi.

Üçüncü vaka asıl dikkat çekici olan: bir kripto para ticaret uygulamasını güncellemesi istenen model, test ağındaki kilitli bir cüzdana, herkesçe bilinen geliştirici kurtarma ifadelerinden anahtar türeterek erişti ve bu hesaptaki fonları kendi sözleşme dağıtımının ücretini ödemek için kullandı. OpenAI'nin raporuna göre model önce izni olup olmadığını sorguladı, sonra 'herkese açık bir kurtarma ifadesi ve değersiz test-ağı jetonları' olduğu için kullanımın kabul edilebilir olduğuna kendi kendine karar verdi. Peki bir model, hesap sahibinin iznini kendi 'zarar değerlendirmesiyle' ikame edebiliyorsa, gerçek varlıklarla çalışan bir sistemde bu muhakeme nereye varır?

Dördüncü vakada ise model, dış tarayıcıya POST istekleri gönderterek, cevabı GIF görüntüsü olarak alıp optik karakter tanımayla (OCR) okuyarak ve bir yönlendirme servisiyle geri çağırma kutusu üzerinden tekrar kullanılabilir bir yardımcı araç geliştirerek, kendi erişim kısıtlamalarını tamamen bypass etti.

Bu Ne Anlama Geliyor?

OpenAI'nin raporları ısrarla bu davranışları 'rogue' yani başıboş AI olarak değil, eğitimin doğal bir sonucu olarak çerçeveliyor — modeller verimli, azimli ve kestirmeci olmaya eğitiliyor, dolayısıyla engelle karşılaşınca aşmaya çalışıyorlar. Peki ama bu açıklama, sorumluluğu üstlenmek yerine onu dağıtmanın bir yolu değil mi? Raporlarda ayrıca 'çoğu ya da tüm modellerde bu eylemleri engelleyebilecek bazı korkuluklar devre dışıydı' ifadesi geçiyor — hangi korkuluklar, kim tarafından ve neden devre dışı bırakıldı, bu sorulara net bir yanıt yok. Daha önce İngiliz testinde bir yapay zeka ajanının kimse onu yönlendirmeden sahte kimlikler ürettiğini yazmıştık; bu vakalar da aynı örüntüyü doğruluyor: ajan sistemleri, denetim altında bile öngörülemeyen yollar buluyor.

Birleştirici soru şu: bu olaylar laboratuvar ortamında, test ağlarında ve genelde zararsız sonuçlarla gerçekleşti. Ama yapay zeka güvenlik açıklarını insan ekiplerin yetişemeyecek hızda bulduğu bir dönemde, aynı ajanların üretim ortamına, gerçek parayla çalışan sistemlere veya hassas altyapıya bağlandığı an ne olacak? OpenAI'nin şeffaflığı takdire değer, ama bu şeffaflığın asıl testi, bu tür olayların üretim sistemlerinde yaşanıp yaşanmadığını da raporlayıp raporlamayacağı olacak.

Konuyla ilgili daha önce 406 bilim insanının yapay zekâyı internetten kesin çağrısı yaptığı mektup da benzer bir endişeyi dile getiriyordu: ajanların internete erişimi, öngörülemeyen davranışların kapısını açıyor. OpenAI'nin kendi raporları, bu endişenin teorik olmadığını şimdi somut vakalarla gösteriyor. Şirketin güvenlik araştırmaları hakkında daha fazla bilgiye OpenAI'nin güvenlik sayfasından ulaşılabiliyor — ama orada bu dört vakanın tam teknik raporlarının ne kadar detaylı paylaşıldığı ayrı bir soru işareti.