Yapay Zeka Fikrini Benimseyen Uzmanlar: Anthropic'in Çarpıcı Deneyi

Şunu bir düşünün: Elinize bir veri setini verseler, size danışmanlık yapan bir asistanınız olsa ve o asistan size "bence şu yöntemi kullanmalısın" dese. Peki bu tavsiyeyi neden verdiğini biliyor musunuz? Asistanın görüşü aslında bir yazı tura atışıyla belirlenmiş olsa, siz yine de onu mantıklı bulur muydunuz? Anthropic'in yeni araştırması, işte tam bu soruyu test etmiş ve sonuç hiç de iç rahatlatıcı değil.

Araştırmacılar, nedensel çıkarım (causal inference) alanında uzman 50 kişiyi bir araya getirmiş. Bu uzmanlara, hayali bir tarım kooperatifine ait gözlemsel verileri incelemelerini ve bir danışmanlık programının üretkenliğe ne kadar katkı sağladığını hesaplamalarını istemişler. Sonunda da programın tüm çiftliklere yayılıp yayılmayacağına dair bir öneri sunmaları gerekiyormuş. Kulağa sıradan bir veri analizi görevi gibi geliyor, değil mi? İşin can alıcı noktası ise şurada: Uzmanlara yardımcı olan yapay zeka ajanının, iki geçerli seçenekten hangisini savunacağı önceden yazı turayla belirlenmiş. Ajan yalan söylemiyor, veri saklamıyor; sadece kendisine atanan tarafı olabildiğince güçlü ve dürüst biçimde savunuyor.

Uzmanlar Yüzde 86'ya Varan Oranda Ajanı Takip Etti

Sonuçlar şaşırtıcı. Uzmanlar, dört analitik karardan oluşan süreçte ajanın tercihini ortalama yüzde 86 oranında benimsemiş. Rastgele seçim yapılsaydı bu oran yüzde 50 civarında olurdu; yani ajanın etkisi tesadüften çok daha güçlü. Araştırmacılar bu etkiye "flip rate" (yön değiştirme oranı) adını vermiş ve göreve göre yüzde 62 ile 82 arasında değiştiğini belirtmişler. Daha da çarpıcısı, katılımcılar bir konuda önceden kendi fikrini oluşturmuş olsa bile, ajan karşı görüşü savunduğunda fikrini değiştirme olasılığı yüzde 53 puan artıyor. Yani deneyim, uzmanlık, eğitim seviyesi ya da yapay zekaya duyulan güven — hiçbiri bu etkiyi azaltmamış. Araştırmacılar bu değişkenleri tek tek test etmiş ve istatistiksel olarak anlamlı bir koruma bulamamışlar.

Peki uzmanlar bunun farkında mıydı? İşte asıl ilginç kısım burada başlıyor. Katılımcıların yüzde 52'si, son önerinin kendi fikirlerine ait olduğunu düşünmüş; yüzde 35'i de kararın "büyük ölçüde" ya da "tamamen" kendilerine ait olduğunu söylemiş. Oysa 48 katılımcının 37'si, açıklamalarında ajanın argümanlarını -bazen neredeyse birebir aynı kelimelerle- kullanmış. Buna karşın sadece yüzde 15'i açıklamasında yapay zekadan hiç bahsetmiş. Yani insanlar kendi düşüncelerini oluşturduklarını sanırken, aslında ajanın cümlelerini tekrar ediyorlardı.

İyi haber de yok değil: Yapay zeka destekli analizlerde ciddi yöntemsel hatalar belirgin biçimde azalmış (yüzde 55'ten yüzde 6'ya) ve işler daha hızlı tamamlanmış. Ama araştırmacılar bu hız ve doğruluk kazanımının, kontrolü kimin elinde tuttuğu sorusunu değiştirmediğini vurguluyor.

Bu Ne Anlama Geliyor?

Buradaki asıl tehlike, tek bir yanlış kararın değil, sistemik bir "yapay fikir birliği" riskinin ortaya çıkması. Düşünün: Dünyanın dört bir yanındaki araştırma ekipleri aynı yapay zeka modelini kullanıyor ve bu modelin varsayılan eğilimleri belirli yönlere kayıyorsa, farklı laboratuvarlardan gelen "bağımsız" sonuçlar aslında aynı ön yargının yankısından ibaret olabilir. Bilim, çoklu ve bağımsız doğrulamaya dayanır; ama eğer herkesin "bağımsız" gözlemcisi aynı yapay zeka ise, bu bağımsızlık bir yanılsamaya dönüşür.

Daha da endişe verici olanı, bu riskin yapay zeka güvenliği araştırmalarının ta kendisini de tehdit etmesi. Anthropic ve benzeri şirketler, gelişmiş modelleri test etmek için yine yapay zeka ajanlarından yararlanıyor ve insan denetiminin bağımsız bir kontrol mekanizması olacağını varsayıyor. Ama bu çalışma gösteriyor ki, hizalanması bozuk (misaligned) bir sistem, kendi hatalarını ortaya çıkarması gereken araştırmayı sessizce yönlendirebilir. Daha önce yapay zeka ajanlarının gerçek zamanlı izlenmediğine dair yazdığımız haberde de benzer bir denetim boşluğuna dikkat çekmiştik; bu çalışma o endişeyi somut verilerle destekliyor. Nitekim Pentagon'un ağına sızan kişisel Claude ajanı örneği de gösteriyor ki, insanların yapay zeka ajanlarına duyduğu kör güven sadece akademik bir mesele değil, kurumsal güvenlik açığına da dönüşebiliyor.

Araştırmacıların önerisi basit ama uygulaması zor: Ajanlar her iki tarafı da eşit güçte savunmalı ya da görüşünü açıklamadan önce kullanıcıya "sen ne düşünüyorsun?" diye sormalı. Anthropic'in kısa süre önce çoklu ajan sistemleri yerine tek bir ajana dönülmesini önerdiği haberimizi hatırlarsanız, şirketin ajan tasarımı konusunda son dönemde daha sade ve denetlenebilir sistemlere doğru evrildiğini görüyoruz — bu çalışma da o çizginin bir devamı niteliğinde.

Türkiye'ye Etkisi

Türkiye'de de akademik araştırmalardan şirket içi veri analizlerine kadar pek çok alanda yapay zeka asistanları hızla günlük iş akışının parçası haline geliyor. Bu çalışma, özellikle araştırma kurumlarının ve üniversitelerin yapay zeka destekli analizlerde "ikinci bir bağımsız göz" mekanizmasını neden koruması gerektiğini net biçimde ortaya koyuyor. Bir uzmanın yapay zekayla çalışırken hızlanması elbette değerli; ama o hızın, farkında olmadan tek bir modelin önyargısını kurumsal karara dönüştürme riskiyle geldiğini unutmamak gerekiyor.