Joy Buolamwini: “Yapay zeka şirketlerine ücretsiz geçiş hakkı veriyoruz”

Buolamwini’nin kapağı eğlenceli bulduğunu söyleyebilirim. Bir fotoğrafını çekiyor. 1961’den bu yana zaman çok değişti. Yeni anılarında şöyle diyor: Yapay Zekanın Maskesini Düşürmek: Makineler Dünyasında İnsanı Koruma Misyonum, Buolamwini hayat hikayesini paylaşıyor. Pek çok açıdan teknolojinin o zamandan bu yana ne kadar ilerlediğini ve daha ne kadar ilerlemesi gerektiğini somutlaştırıyor.

Buolamwini, 2017 yılında yapay zeka araştırmacısı Timnit Gebru ile birlikte yazdığı, ticari yüz tanıma sistemlerinin siyahi ve esmer insanların, özellikle de siyahi kadınların yüzlerini tanımakta nasıl genellikle başarısız olduğunu ortaya koyan “Cinsiyet Tonları” adlı öncü makalesiyle tanınıyor. Araştırmaları ve savunuculuğu, Google, IBM ve Microsoft gibi şirketlerin yazılımlarını daha az önyargılı olacak şekilde geliştirmelerine ve teknolojilerini kolluk kuvvetlerine satmaktan kaçınmalarına yol açtı.

Artık Buolamwini’nin görünürde yeni bir hedefi var. Yapay zeka sistemlerinin nasıl inşa edildiğine dair radikal bir yeniden düşünme çağrısında bulunuyor. Buolamwini, MIT Technology Review’a, mevcut yapay zeka abartı döngüsünün ortasında, teknoloji şirketlerinin kendileri için geçerli olan kuralları kaleme almasına izin vermenin çok ciddi bir risk gördüğünü söylüyor; kendisi, daha önce önyargılı ve baskıcı teknolojinin gelişmesine izin veren hatayı tekrarladığını ileri sürüyor .

“Beni endişelendiren şu ki, bu kadar çok şirkete bedava geçiş hakkı veriyoruz ya da başımızı çevirip yeniliği alkışlıyoruz [away from the harms]” diyor Buolamwini.

Buolamwini, temel modeller olarak adlandırılan günümüzün en ışıltılı yapay zeka oyuncaklarını üzerine inşa ettiğimiz temelin özellikle endişe verici olduğunu söylüyor. Teknoloji uzmanları, bu çok işlevli modellerin, sohbet robotlarından otomatik film yapımına kadar diğer birçok yapay zeka uygulaması için bir sıçrama tahtası görevi göreceğini öngörüyor. Bunlar, kaçınılmaz olarak telif hakkıyla korunan içerik ve kişisel bilgiler de dahil olmak üzere, internetten yığınla verinin alınmasıyla oluşturulmuştur. Pek çok yapay zeka şirketine artık fikri mülkiyetlerinin izinsiz alındığını iddia eden sanatçılar, müzik şirketleri ve yazarlar tarafından dava açılıyor.

Günümüzün yapay zeka şirketlerinin mevcut işleyiş tarzı etik dışıdır; Buolamwini, “rızayı tamamen göz ardı ederek” bir tür “veri sömürgeciliği” olduğunu söylüyor.

“Orada ele geçirilecek ne varsa, eğer kanunlar yoksa, sadece yağmalanmıştır” diyor. Buolamwini, bir yazar olarak kitabının, şiirlerinin, sesinin ve köşe yazılarının, hatta doktora tezinin bile yapay zeka modellerine dahil edilmesini beklediğini söylüyor.

“Eğer çalışmalarımdan herhangi birinin bu sistemlerde kullanıldığını tespit edersem kesinlikle bunu açıkça dile getireceğim. Yaptığımız şey bu” diyor.