AB'de Yapay Zeka Artık Kimliğini Söylemek Zorunda

Avrupa Birliği'nde yeni bir dönem başlıyor: artık bir chatbot'la mı yazışıyorsunuz, bir görsel yapay zeka tarafından mı üretildi, bunu size açıkça söylemek zorunlu hale geliyor. Kural basit görünüyor ama arkasındaki soru hiç basit değil: insanlar bu uyarıları gerçekten okuyacak mı, yoksa çerez onayları gibi tıklayıp geçecekleri bir formalite haline mi gelecek?

AB Yapay Zeka Yasası'nın (AI Act) şeffaflık hükümleri, kullanıcıların bir yapay zeka sistemiyle etkileşime girdiğinde ya da yapay zeka tarafından üretilmiş veya değiştirilmiş içerikle karşılaştığında bilgilendirilmesini şart koşuyor. Yani sesli asistanla konuşurken, bir müşteri hizmetleri botuyla yazışırken ya da sosyal medyada gezinirken karşınıza çıkan görsellerin arkasında bir algoritma varsa, bunun size bildirilmesi gerekiyor.

Bunun gerekçesi anlaşılır: insanlar kiminle ya da neyle etkileşime girdiğini bilmeli, kandırılmamalı. Ama peki ama uygulama nasıl olacak? Her sohbet penceresinde küçük bir ikon mu çıkacak, her fotoğrafın altında bir dipnot mu olacak? Wired'ın haberinde işaret edilen kavram tam da burada devreye giriyor: "ifşa yorgunluğu" (disclosure fatigue). Yani insanlar her yerde karşılarına çıkan "bu yapay zekadır" uyarılarını, tıpkı çerez onaylarını kapattıkları gibi, düşünmeden geçmeye başlarsa, kuralın amacı fiilen ortadan kalkar.

Bu Ne Anlama Geliyor?

Burada asıl mesele niyet değil, tasarım. Bir uyarı etiketi, ancak insan onu görüp anlamlandırırsa işe yarar. Aksi halde sadece kutuyu işaretlemiş olursunuz — şirketler yasal yükümlülüğü yerine getirmiş sayılır, kullanıcı ise hâlâ neyle konuştuğunu bilmez. Şirketlerin çıkarına bakıldığında da tuhaf bir denge var: uyarı ne kadar göz ardı edilebilir olursa, hem yasaya uyum sağlanır hem de kullanıcı deneyimi "bozulmaz". Bu da sormamız gereken soruyu doğuruyor — kural, şirketleri gerçekten daha şeffaf olmaya mı zorluyor, yoksa şeffaflığın görüntüsünü satın almalarına mı izin veriyor?

Bu konu, yapay zeka üretimi içeriğin işaretlenmesi tartışmasıyla da doğrudan kesişiyor. Daha önce Google'ın SynthID filigranı üzerine yazdığımız gibi, teknik olarak kırılmayan bir damga bile, içeriğin yalan söylemesini durdurmuyor — sadece kaynağını belgeleme imkanı sunuyor. AB'nin şeffaflık kuralı da benzer bir sınırla karşı karşıya: bilgilendirme zorunluluğu, ancak insanların o bilgiyi önemseyip önemsememesiyle anlam kazanıyor.

Ayrıca sahnenin arkasında AB'nin daha büyük bir hedefi var. Birlik, yapay zeka altyapısına 30 milyar euroluk bir yatırım seferberliği başlatırken aynı zamanda dünyanın en katı yapay zeka düzenlemesini uygulamaya sokuyor. Bu ikili strateji — bir eliyle sektörü büyütmek, diğer eliyle sıkı kurallar koymak — kendi içinde bir gerilim taşıyor. Şirketler kurallara uyum maliyetini büyümenin önünde bir engel olarak mı görecek, yoksa güven kazandıran bir avantaj olarak mı pazarlayacak, bunu zaman gösterecek.

Deepfake ve yapay zeka üretimi görsellerin şeffaflığı meselesi de yeni değil. Daha önce Google'ın Earth uygulamasındaki bir yapay zeka aracının deepfake üretme riski nedeniyle bir günde kapatılmasını aktarmıştık. AB'nin yeni kuralı, tam da bu tür içeriklerin fark edilmeden yayılmasını önlemeyi hedefliyor — ama etiketleme tek başına yeterli mi, yoksa asıl ihtiyaç insanların bu etiketleri ciddiye alacağı bir kültür mü, sorusu havada asılı duruyor.

Sonuçta ortada iyi niyetli bir kural var. Ama iyi niyet, uygulamada göz ardı edilen bir açılır pencereye dönüşürse, AB'nin hedeflediği şeffaflık gerçekte kimin işine yarayacak — kullanıcının mı, yoksa kutuyu işaretleyip geçen şirketlerin mi?