Viral AI avatar uygulaması Lensa, iznim olmadan beni soydu

Stable Diffusion’ı geliştiren şirket Stability.AI, Kasım ayı sonlarında AI modelinin yeni bir sürümünü piyasaya sürdü. Bir sözcü, orijinal modelin, bu çıkışları kaldıracağı için Lensa’nın kullanmamış gibi göründüğü bir güvenlik filtresiyle piyasaya sürüldüğünü söylüyor. Stable Diffusion 2.0’ın içeriği filtrelemesinin bir yolu, sıklıkla tekrarlanan görüntüleri kaldırmaktır. Asyalı kadınların cinsel açıdan grafik sahnelerde olması gibi bir şey ne kadar sık ​​tekrarlanırsa, yapay zeka modelinde ilişkilendirme o kadar güçlü olur.

Çalışkan, Stable Diffusion’ın görüntü oluşturmasına yardımcı olan bir sistem olan CLIP (Contrastive Language Image Pretraining) üzerinde çalıştı. CLIP, bir veri kümesindeki görüntüleri açıklayıcı metin bilgi istemleriyle eşleştirmeyi öğrenir. Çalışkan, sorunlu cinsiyet ve ırksal önyargılarla dolu olduğunu gördü.

Çalışkan, “Kadınlar cinsel içerikle ilişkilendirilirken, erkekler tıp, bilim, ticaret vb. gibi herhangi bir önemli alanda profesyonel, kariyerle ilgili içerikle ilişkilendirilir” diyor.

İlginç bir şekilde, resimlerim erkek içerik filtrelerinden geçtiğinde Lensa avatarlarım daha gerçekçiydi. Kıyafetli (!) ve tarafsız pozlar verdiğim avatarlarım var. Birkaç görüntüde, bir şefe veya doktora ait gibi görünen beyaz bir önlük giyiyordum.

Ancak suçlanacak olan sadece eğitim verileri değil. Carnegie Mellon Üniversitesi’nde görüntü oluşturma algoritmalarında önyargılar üzerine çalışan doktora öğrencisi Ryan Steed, bu modelleri ve uygulamaları geliştiren şirketlerin verileri nasıl kullanacakları konusunda aktif seçimler yaptığını söylüyor.

“Birinin eğitim verilerini seçmesi, modeli oluşturmaya karar vermesi, bu önyargıları azaltmak için belirli adımlar atıp atmayacağına karar vermesi gerekiyor” diyor.

Uygulamanın geliştiricileri, erkek avatarların uzay kıyafetleri içinde görünmesi, kadın avatarların ise kozmik G-stringleri ve peri kanatları alması yönünde bir seçim yaptı.

Prisma Labs sözcüsü, fotoğrafların “ara sıra cinselleştirilmesinin” her cinsiyetten insanın başına geldiğini, ancak farklı şekillerde olduğunu söylüyor.