Ürdün’de yoksulluğu azaltmayı amaçlayan bir algoritma, ihtiyacı olan insanları diskalifiye ediyor

İnsan Hakları İzleme Örgütü, algoritmik sistemde önyargı ve yanlışlıklara neden olan birkaç temel sorun tespit etti. Sıralama sistemini besleyen göstergelerden ikisi olarak adaylara örneğin ne kadar su ve elektrik tükettikleri sorulur. Raporun yazarları, bunların mutlaka güvenilir yoksulluk göstergeleri olmadığı sonucuna varıyor. Görüşülen bazı aileler, araba eski ve işe ulaşım için gerekli olsa bile, bir arabaya sahip olmanın sıralamalarını etkilediğine inanıyorlardı.

Raporda şöyle yazıyor: “Bu istatistiksel tarafsızlık cilası, daha karmaşık bir gerçeği maskeliyor: insanların katlandığı ekonomik baskılar ve geçinmek için mücadele ettikleri yollar, genellikle algoritma tarafından görülmez.”

Raporda alıntılandığı gibi, ayda 250 dinar (353 $) kazanan ve iki yakasını bir araya getirmek için mücadele eden iki çocuk babası Abdelhamad, “Sorulan sorular içinde bulunduğumuz gerçeği yansıtmıyor” diyor.

Takaful ayrıca cinsiyetçi yasal kodlara dayanarak mevcut cinsiyete dayalı ayrımcılığı güçlendirir. Nakit yardımı yalnızca Ürdün vatandaşlarına sağlanıyor ve algoritmanın hesaba kattığı göstergelerden biri hanehalkının büyüklüğü. Vatandaş olmayan biriyle evlenen Ürdünlü erkekler eşlerine vatandaşlık verebilirken, Ürdünlü kadınlar bunu yapamaz. Bu tür kadınlar için bu, rapor edilebilir hane büyüklüğünün daha düşük olmasıyla sonuçlanmakta ve yardım alma olasılıkları azalmaktadır.

Rapor, İnsan Hakları İzleme Örgütü tarafından son iki yılda gerçekleştirilen 70 görüşmeye dayanmaktadır, nicel bir değerlendirmeye değil, çünkü Dünya Bankası ve Ürdün hükümeti 57 göstergeden oluşan listeyi kamuya açıklamamıştır; göstergelerin nasıl ağırlıklandırıldığına dair bir dökümdür. veya algoritmanın kararları hakkında kapsamlı veriler. Dünya Bankası yorum talebimize henüz yanıt vermedi.

İnsan Hakları İzleme Örgütü’nün yapay zeka ve insan hakları araştırmacısı ve raporun yazarı Amos Toh, bulguların algoritmik karar vermeyi kullanan hükümet programlarında daha fazla şeffaflığın gerekliliğine işaret ettiğini söylüyor. Görüşülen ailelerin çoğu, sıralama metodolojisi hakkında güvensizlik ve kafa karışıklığı ifade etti. Toh, “Bu şeffaflığı sağlama sorumluluğu Ürdün hükümetindedir” diyor.

Yapay zeka etiği ve adaleti üzerine çalışan araştırmacılar, refah sistemlerinde algoritmaların artan kullanımı hakkında daha fazla inceleme yapılması çağrısında bulunuyor. NYU’da profesör ve şu kitabın yazarı Meredith Broussard, “Bu özel amaç için, erişimi denetlemek için algoritmalar oluşturmaya başladığınızda, yardıma ihtiyacı olan insanlar her zaman dışlanır” diyor. Bir Aksaklıktan Daha Fazlası: Teknolojide Irk, Cinsiyet ve Yetenek Önyargısıyla Yüzleşmek.

“Görünüşe göre bu, fonlara en çok ihtiyacı olan insanların erişimini gerçekten kısıtlayan kötü bir tasarımın bir başka örneği,” diyor.

Dünya Bankası, hükümetin bir sosyal koruma kurumu olan Ürdün Ulusal Yardım Fonu tarafından yönetilen programı finanse etti. Rapora yanıt olarak Dünya Bankası, 2023 yılının Temmuz ayında tekafül programı hakkında ek bilgi yayınlamayı planladığını söyledi ve “evrensel sosyal korumanın uygulanmasını ilerletme taahhüdünü yineledi. [and] herkesin sosyal korumaya erişiminin sağlanması.”

Kuruluş, dağıtımda maliyet etkinliğini ve artan adaleti teşvik ettiğini söyleyerek, tekafül gibi nakit transfer programlarında veri teknolojisinin kullanılmasını teşvik etti. Hükümetler ayrıca, refah dolandırıcılığına karşı korunmak için yapay zeka özellikli sistemler kullandı. Geçen ay Hollanda hükümetinin hileli olma olasılığı en yüksek olan yardım başvurularını işaretlemek için kullandığı bir algoritmaya yönelik bir soruşturma, ırk ve cinsiyete dayalı sistematik ayrımcılığı ortaya çıkardı.