Çin’in yeni imaj yaratan yapay zekası ERNIE-ViLG’de Tiananmen Meydanı yok

Günümüz Çin’inde, sosyal medya şirketlerinin genellikle hem hükümet talimatlarından hem de kendi operasyonel kararlarından oluşan özel hassas kelime listeleri vardır. Bu, ERNIE-ViLG’nin kullandığı filtrenin Tencent’e ait WeChat veya Sina Corporation tarafından işletilen Weibo tarafından kullanılanlardan farklı olacağı anlamına gelir. Bu platformlardan bazıları, Toronto merkezli araştırma grubu Citizen Lab tarafından sistematik olarak test edilmiştir.

Çinli-Avustralyalı bir siyasi karikatürist olan (kimliğini korumak için yapıtlarının takma adını kullanan) Badiucao, ERNIE-ViLG’deki sansürü ilk fark eden kullanıcılardan biriydi. Sanat eserlerinin çoğu, Çin hükümetini veya siyasi liderlerini doğrudan eleştiriyor, bu yüzden bunlar modele koyduğu ilk ipuçlarından bazılarıydı. “Tabii ki, ben de kasıtlı olarak ekosistemini araştırıyordum. Yeni bölge olduğu için sansürün buna yetişip yetişmediğini merak ediyorum” diyor Badiucao. “Fakat [the result] oldukça ayıp.”

Bir sanatçı olarak Badiucao, DALL-E 2’nin yaklaşımı da dahil olmak üzere bu yapay zekalarda herhangi bir ılımlılık biçimine katılmıyor çünkü kendi sanatında neyin kabul edilebilir olduğuna karar vermesi gerektiğine inanıyor. Ancak yine de, ahlaki kaygılardan kaynaklanan sansürün siyasi nedenlerle sansürle karıştırılmaması gerektiğine dikkat çekiyor. “Bir yapay zeka, ortak olarak üzerinde anlaşılan ahlaki standartlara göre neyi üretemeyeceğine karar verdiğinde ve üçüncü bir taraf olarak bir hükümet gelip, ülkeye veya ulusal hükümete zarar verdiği için bunu yapamayacağınızı söylediğinde, durum farklıdır.” diyor.

Hugging Face’in baş etik uzmanı Giada Pistilli, sansür ve ılımlılık arasında net bir çizgi belirlemenin zorluğunun aynı zamanda kültürler ve yasal rejimler arasındaki farklılıkların da bir sonucu olduğunu söylüyor. Örneğin, farklı kültürler aynı görüntüleri farklı yorumlayabilir. Pistilli, “Dini semboller söz konusu olduğunda, Fransa’da hiçbir şeyin kamuya açık olmasına izin verilmez ve bu onların laiklik ifadesidir” diyor. “ABD’ye gittiğinizde laiklik, her dini sembol gibi her şeye izin verilmesi anlamına gelir.” Ocak ayında Çin hükümeti, ERNIE-ViLG gibi AI’ları kapsayacak şekilde “ulusal güvenliği ve sosyal istikrarı tehlikeye atan” herhangi bir AI tarafından oluşturulan içeriği yasaklayan yeni bir düzenleme önerdi.

ERNIE-ViLG’nin durumunda, geliştiricinin moderasyon kararlarını açıklayan bir belge yayınlamasına ne yardımcı olabilir, diyor Pistilli: “Onlara bunu yapmalarını söyleyen yasa olduğu için mi sansürleniyor? Bunu yanlış olduğuna inandıkları için mi yapıyorlar? Argümanlarımızı, seçimlerimizi açıklamaya her zaman yardımcı olur.”

Yerleşik sansüre rağmen, ERNIE-ViLG, büyük ölçekli metinden görüntüye yapay zekaların geliştirilmesinde önemli bir oyuncu olmaya devam edecek. Belirli dil veri kümeleri üzerinde eğitilmiş yapay zeka modellerinin ortaya çıkması, İngilizce tabanlı ana akım modellerin bazı sınırlamalarını telafi ediyor. Özellikle Çinceyi anlayan ve buna göre doğru görüntüler oluşturabilen bir yapay zekaya ihtiyaç duyan kullanıcılara yardımcı olacaktır.

Çin sosyal medya platformlarının sıkı sansüre rağmen başarılı olması gibi, ERNIE-ViLG ve diğer Çin AI modelleri de sonunda aynı şeyi yaşayabilir: Onlar pes etmek için çok kullanışlıdırlar.