İngiltere'de ChatGPT ile Sığınma Kararı: Soruşturma Geliyor

Bir devlet dairesi, insanların hayatını değiştirecek kararları hızlandırmak için yapay zekaya başvuruyor. Kulağa tanıdık geliyor çünkü artık her yerde aynı senaryo: önce verimlilik vaadi, sonra sessizlik, en sonunda da "aslında ne kadar güvenilirmiş bu araç" sorusu. Bu kez sahne İngiltere İçişleri Bakanlığı (Home Office) ve konu sığınma başvuruları.

WIRED'ın haberine göre, sınır ve göçmenlik denetiminden sorumlu bağımsız gözetim kurumu ICIBI, bakanlığın OpenAI'nin GPT-4 modeli üzerine kurulu araçları kullanımını soruşturma kapsamına almayı değerlendiriyor. Peki bu fikir nereden çıktı? Dijital haklar örgütü Open Rights Group'un (ORG) altı aylık bir araştırmasından. ORG, 11 parlamento sorusu, iki bakanlık yazışması ve 10 bilgi edinme başvurusuyla bakanlığın kapılarını zorlamış; ama bakanlık, kendi deyimiyle "detayları paylaşmaktan" kaçınmış. Bir kamu kurumu, kendi kullandığı yapay zeka aracının nasıl çalıştığını açıklamaktan neden bu kadar çekinir, sorusu burada havada asılı kalıyor.

Ne Oldu, Kim Ne Yaptı?

Bakanlık, 2023 model GPT-4 ve Microsoft Foundry altyapısı üzerine inşa edilmiş iki araç kullanıyor: mülakat tutanaklarını özetleyen Asylum Case Summarisation (ACS) ve ülke bilgisi taramaları yapan Asylum Policy Search (APS). Bu araçlar 2024 sonunda, İşçi Partisi hükümetinin yaklaşık 100 bin kişilik sığınma başvurusu birikimini eritmeye çalıştığı dönemde pilot olarak devreye girdi. Bakanlık ilk karar bekleyen kişi sayısını bir yılda yarıya indirdiğini övünerek anlatıyor — ama aynı dönemde itirazların sayısının da ciddi biçimde arttığını es geçiyor. Hız kazanılmış, peki doğruluktan ne feda edilmiş?

ORG'un bulguları can sıkıcı: pilot değerlendirmede açıklanan yüzde 9'luk hata oranının çok üzerinde bir oranda ACS özeti "kullanıma uygun değil" bulunmuş — genellikle gerçek dışı bilgi veya yanlış temsil yüzünden. APS tarafında ise hiçbir kalite kontrol mekanizması tespit edilememiş. Yani bir araç yanlış yapabiliyor, diğeri ise yanlış yaptığını kimse kontrol etmiyor. Temmuz ayında bir İngiliz yargıcı, bakanlığı Faslı bir kadın ve çocuğunun sığınma talebini reddederken "yapay zeka halüsinasyonu" olan bir belgeye dayanmakla suçladı. Bu, teorik bir risk değil, gerçekleşmiş bir vaka.

İşçi Partisi'nden milletvekili Bell Ribeiro-Addy'nin sözleri tam da bu noktada oturuyor: "İnsanların hayatlarıyla uğraşıyoruz... Makinelerin bunu yapması bana doğru gelmiyor." Bakanlık ise ısrarla aynı cümleyi tekrarlıyor: araçlar karar vermiyor, sadece yardımcı oluyor. Peki bir özet yanlışsa ve o özete dayanarak insan karar veriyorsa, aradaki fark pratikte ne kadar anlamlı?

Bu Ne Anlama Geliyor?

Buradaki asıl mesele teknolojinin kendisinden çok şeffaflığın yokluğu. İngiltere'nin "AI Playbook" rehberi, kamu kurumlarının karar alma süreçlerinde kullandığı algoritmik araçları kamuya açık bir kayda işlemesini şart koşuyor. ACS ve APS bu listede yok. Sığınma başvurusunda bulunan kişilere de bu araçların kullanıldığı söylenmiyor — yani kendi dosyaları hakkında üretilen bir özete itiraz etme şansları bile yok. Cloisters hukuk bürosunun ORG için hazırladığı görüşe göre bu durum, veri haklarını düzenleyen mevzuata aykırı olabilir. Bilgi Komisyonu (Information Commission) şu anda bakanlığın bu araçların nasıl kullanıldığını ve personelin nasıl eğitildiğini açıklamayı reddetmesini ayrıca soruşturuyor.

Araştırmacıların bir diğer kaygısı da GPT modellerinde belgelenmiş "kültürel önyargı" sorunu. Dil bariyerleri ve kültürel nüansların kaybı, özetlerde ayrımcı sonuçlara yol açabilir — ki bu konuyu Grok ve ChatGPT'nin seçim tercihlerini karşılaştıran araştırmayla ilgili yazımızda da ele almıştık: modellerin "tarafsız" görünen çıktıları aslında eğitim verisinin izlerini taşıyor. Public Law Project'in araştırmacısı Caroline Selman ise işin boyutunu daha da büyütüyor: ACS ve APS, hükümet genelinde tespit ettikleri 11 yüksek riskli yapay zeka sisteminden sadece ikisi — ve geri kalanların kamuya açık kayıtta bile görünmediğini söylüyor. Bilmediğiniz bir şeyi sorgulayamazsınız; mesele tam da bu.

Hesap verebilirlik tartışması aslında yeni değil. Delaware'de şirket yönetiminde yapay zekaya sorumluluk yükleme girişimini incelediğimiz yazıda da benzer bir çelişkiye değinmiştik: karar bir makineye yaptırılıyor ama sorumluluk hâlâ insana ait sayılıyor. İngiltere'deki vaka bunun belki de en yüksek bedelli örneği — çünkü masada duran şey bir bilanço değil, bir insanın güvenliği.

OpenAI tarafı ise konuya temkinli yaklaşıyor; modellerin doğruluğunu artırmak için çalıştıklarını belirtip GPT-4'ü Ocak ayında emekliye ayıracaklarını hatırlatıyor. Ama bu, zaten verilmiş kararların geri alınacağı anlamına gelmiyor. Soruşturma başlasa bile, geçmişte bu araçlarla alınmış kararların yeniden gözden geçirilip geçirilmeyeceği hâlâ belirsiz.