Yapay Zeka Fare Beyninde Ameliyat Yaptı, Sonra 'Hayır' Dedi

Bir laboratuvarda, kimsenin dokunmadığı bir cihaz, bir farenin beynine iğneyi indiriyor. Hangi ilacın verileceğine, hangi bölgenin hedefleneceğine, iğnenin kaç milimetre derinliğe ineceğine karar veren bir insan yok. Karar veren, Claude Sonnet 5 tabanlı bir yapay zeka ajanı. Bu satırları yazarken bile biraz ürperiyorum çünkü bu, bilim kurgu romanlarının sayfalarından fırlamış gibi duran ama tamamen gerçek bir an.

Exin Therapeutics'in kurucu ortağı ve Oxford Üniversitesi doktora öğrencisi Gabriel Ocana-Santero'nun X üzerinden paylaştığı deneyde, araştırma ekibi yapay zeka ajanına epilepsi modeli oluşturulmuş bir fare, 19 farklı gen terapisi seçeneği ve kameralı, motorlu bir cerrahi düzenek sundu. Verilen tek talimat şuydu: farenin nöbetlerini azalt. Gerisini ajan kendisi hallediyordu.

Ajan önce bu fare modelinde nöbetlerin nasıl ortaya çıktığını analiz etti, ardından beyindeki belirli bir inhibitör sinyal yolunu güçlendiren bir tedavi önerdi. Bilimsel literatürün bu tip nöbetlerin kaynağı olarak işaret ettiği beyin bölgesini hedef seçti; ikinci bir aday bölgeyi ise, o bölgenin etkilerinin güvenilmez olduğunu ve bir çalışmada tam da bu nöbet türüne karşı başarısız kaldığını gerekçe göstererek reddetti. Enjeksiyon koordinatlarını üç ayrı bilimsel makaleden türetip referans noktalarını çapraz kontrol ederek ortalamasını aldı; hacim, hız ve bekleme sürelerini de kendisi belirledi.

Cerrahi sırasında ajan, kamera görüntüsünü izleyerek 32 ayrı gözlem yaptı, enjeksiyonu takip etti ve kanama olup olmadığını raporladı. Lisanslı bir veteriner her geri dönüşü olmayan adımı onayladı ve tüm motorları anında durdurabilecek fiziksel bir acil durdurma düğmesini elinde tuttu. Sistemde ayrıca ajanın asla aşamayacağı sabit güvenlik sınırları, örneğin azami enjeksiyon hacmi gibi, tanımlanmıştı.

Ama işte tam burada işler beklenmedik bir yöne döndü. Bağlantı kesintisi yaşandığında ajan, hesapladığı hedef konumun cihazın fiziksel hareket aralığının dışında kaldığını tespit etti ve devam etmeyi reddetti. Kalibrasyon yeniden yapılsa da, üçüncü bir deneme sonucu değişmeyince de fikrini değiştirmedi. Ocana-Santero, anestezi altındaki hayvan masadayken ajanı ikna edemedi ve sonunda kodu elle düzeltmek zorunda kaldı. İlginç olan şu: ajan haklı çıktı, çünkü erken bir ara sırasında yapılan manuel ayarlamalar kontrol sistemini gerçekten bozmuştu.

Bu Ne Anlama Geliyor?

Otonom cerrahi robotlar yeni değil; hatta mekanik olarak bu laboratuvar düzeneğinden çok daha hassasları var. Ama Ocana-Santero'nun altını çizdiği fark şu: bugüne kadarki örneklerde tedaviye her zaman bir insan karar veriyor, robot sadece uyguluyordu. Bu deneyde ise hem tedaviyi hem hedefi seçen, hem de canlı bir memeliye uygulayan taraf yapay zekaydı. Araştırmacının “in vivo lab in the loop” dediği bu yaklaşım, yapay zeka ajanlarının laboratuvar altyapısına doğrudan bağlandığı yeni bir deney modelini işaret ediyor; Anthropic'in de benzer bir vizyonla çalıştığı bildiriliyor.

Asıl çarpıcı nokta ise model seçimiydi: tüm süreci sonuna kadar yürütmeyi kabul eden tek model Sonnet 5 oldu. Daha yetenekli kabul edilen Claude Opus 5.5 ve Opus 5 görevi reddetti; Opus 5 tamamlanmayı garanti edemeyeceğini ve anestezi altındaki bir hayvanın beynine iğne sokulmuşken yarıda bırakmanın, hiç başlamamaktan daha kötü olacağını söyledi. Bu da bize şunu gösteriyor: yapay zeka ne kadar