İndirme: Yapay Zeka üzerine Joy Buolamwini ve Meta’nın güzellik filtresi davası
Yapay zeka araştırmacısı ve aktivisti Joy Buolamwini, 2017’de Timnit Gebru ile birlikte yazdığı ve ticari yüz tanıma sistemlerinin Siyahi ve esmer insanların, özellikle de Siyahi kadınların yüzlerini tanımakta nasıl genellikle başarısız olduğunu ortaya koyan öncü makalesiyle tanınıyor. Araştırmaları ve savunuculuğu, Google, IBM ve Microsoft gibi şirketlerin yazılımlarını daha az önyargılı olacak şekilde geliştirmelerine ve teknolojilerini kolluk kuvvetlerine satmaktan kaçınmalarına yol açtı.
Artık Buolamwini’nin görünürde yeni bir hedefi var. Yapay zeka sistemlerinin nasıl inşa edildiğine dair radikal bir yeniden düşünme çağrısında bulunuyor. Buolamwini, MIT Technology Review’a, mevcut AI abartılı döngüsünde, teknoloji şirketlerinin kendileri için geçerli olan kuralları kaleme almasına izin vermenin çok ciddi bir risk gördüğünü söylüyor; bu, daha önce önyargılı ve baskıcı teknolojinin gelişmesine izin veren hatayı tekrarlıyor. Hikayenin tamamını okuyun.
—Melissa Heikkilä
Buolamwini’nin yapay zekanın geleceğine ilişkin vizyonuyla ilgileniyorsanız, bu alıntıya göz at yeni kitabından Yapay Zekanın Maskesini Düşürmek: Makineler Dünyasında İnsanı Koruma Misyonum. İçinde, süper zeki yapay zekadan kaynaklanan varoluşsal risklere odaklanmak için çok fazla zaman harcadığımızı ve yapay zekanın burada ve şimdi ortaya çıkardığı zararlar üzerinde çok az zaman harcadığımızı savunuyor.
Meta neden güzellik filtreleri nedeniyle dava ediliyor?
ABD’nin onlarca eyaleti geçtiğimiz hafta Meta’ya, şirketin bilerek genç kullanıcılara zarar verdiğini iddia ederek dava açacağını açıklamıştı. Dava oldukça büyük bir olay ve çocukların çevrimiçi güvenliğine ilişkin ulusal tartışma üzerinde büyük bir etki yaratacağı neredeyse kesin. Potansiyel olarak politika ve platform değişikliklerine yol açabilir. Dava aynı zamanda reşit olmayanların verilerini koruyan mevcut gizlilik yasasını da stres testine tabi tutacak.
Temel iddialardan bazıları, Meta’nın genç kullanıcıları güvenlik özellikleri ve Instagram’daki güzellik filtrelerinin yarattığı zarar da dahil olmak üzere platformlardaki zararlı içeriğin yaygınlığı konusunda yanılttığı yönünde. Kıdemli teknoloji politikası muhabirimiz Tate Ryan-Mosley, bu özelliklerin genç kullanıcıları nasıl etkilediği ve bunlardan kimlerin kazanç sağladığı konusunda araştırmanın söylediklerini derinlemesine inceledi. Hikayenin tamamını okuyun.
Bu hikaye, Silikon Vadisi’ndeki güç ve teknolojiyi kapsayan haftalık bültenimiz The Technocrat’tan alınmıştır. Üye olmak her Cuma gelen kutunuza almak için.