Neden herkes New York’un AI işe alma yasasına kızıyor?

İşe alımda yapay zekanın kullanılması, mevcut ırk ve cinsiyet önyargılarını otomatikleştirmesi ve sağlamlaştırması nedeniyle eleştirildi. Adayların yüz ifadelerini ve dilini değerlendiren yapay zeka sistemlerinin beyaz, erkek ve sağlıklı adaylara öncelik verdiği gösterilmiştir. Sorun çok büyük ve birçok şirket işe alım sürecinde en az bir kez yapay zeka kullanıyor. ABD Eşit İstihdam Fırsatı Komisyonu başkanı Charlotte Burrows, Ocak ayında yaptığı bir toplantıda, beş şirketten dördünün istihdam kararları almak için otomasyon kullandığını söyledi.

NYC’nin Çarşamba günü yürürlüğe giren Otomatik İstihdam Karar Aracı yasası, işe alımda AI kullanan işverenlerin adaylara bunu yaptıklarını söylemek zorunda olduklarını söylüyor. Ayrıca sistemlerinin ırkçı veya cinsiyetçi olmadığını kanıtlamak için yıllık bağımsız denetimlere tabi olacaklar. Adaylar, teknoloji tarafından hangi verilerin toplanıp analiz edildiği konusunda potansiyel işverenlerden bilgi talep edebilecek. İhlaller, 1.500 $’a kadar para cezalarına neden olacaktır.

Yasanın savunucuları, yapay zekayı düzenlemek ve mükemmel olmasa bile kullanımıyla ilgili bazı zararları ve riskleri azaltmak için bunun iyi bir başlangıç ​​olduğunu söylüyor. Şirketlerin kullandıkları algoritmaları ve teknolojinin kadınlara veya beyaz olmayan insanlara karşı haksız bir şekilde ayrımcılık yapıp yapmadığını daha iyi anlamasını gerektirir. Ayrıca, ABD’de AI politikası söz konusu olduğunda oldukça nadir görülen bir düzenleme başarısıdır ve bu özel yerel düzenlemeleri daha fazla görmemiz muhtemeldir. Kulağa umut verici geliyor, değil mi?

Ancak yasa önemli tartışmalarla karşılandı. Kamu çıkar grupları ve sivil haklar savunucuları, bunun uygulanabilir ve yeterince kapsamlı olmadığını söylerken, buna uymak zorunda kalacak işletmeler bunun uygulanamaz ve külfetli olduğunu savunuyorlar.

Demokrasi ve Teknoloji Merkezi, Gözetleme Teknolojisi Gözetim Projesi (STOP), NAACP Yasal Savunma ve Eğitim Fonu ve New York Sivil Özgürlükler Birliği gibi gruplar, yasanın “yetersiz kapsayıcı” olduğunu ve otomatik sistemlerin birçok kullanımını dışarıda bırakma riski taşıdığını savunuyor. Binlerce adayı taramak için yapay zekanın kullanıldığı sistemler de dahil olmak üzere işe alımlarda.

Dahası, denetim sektörü şu anda çok olgunlaşmamış olduğundan, bağımsız denetimin tam olarak neyi başaracağı da net değil. Üyeleri arasında Adobe, Microsoft ve IBM’in de yer aldığı etkili bir teknoloji ticaret grubu olan BSA, Ocak ayında belediyeye üçüncü taraf denetimlerinin “mümkün olmadığını” savunarak yasayı eleştiren yorumlarda bulundu.

STOP’un icra direktörü Albert Fox Cahn, “Bir denetçinin bir şirketin bilgilerine ne tür bir erişim sağlayabileceği ve şirketin işleyiş şekli hakkında gerçekten ne kadar sorgulayabilecekleri hakkında pek çok soru var” diyor. mali denetçilerimiz olsa da vergi kanunu ve denetim kuralları şöyle dursun, genel kabul görmüş muhasebe ilkelerimiz bile yokmuş gibi.”

Cahn, yasanın yapay zeka ve işe alma konusunda yanlış bir güvenlik ve güvenlik duygusu üretebileceğini savunuyor. “Bu, pratikte bu sistemlerden korunmanın kanıtı olarak gösterilen bir incir izni, bu yasaya konulduğu için tek bir şirketin sorumlu tutulacağını düşünmüyorum” diyor.