AI için bir önyargı ödülü, haksız algoritmaları daha hızlı yakalamaya yardımcı olacak

AB’nin yeni içerik denetleme yasası olan Dijital Hizmetler Yasası, büyük teknoloji platformları tarafından kullanılan veri ve algoritmalar için yıllık denetim gerekliliklerini içerir ve AB’nin yakında çıkacak olan AI Yasası, yetkililerin AI sistemlerini denetlemesine de izin verebilir. ABD Ulusal Standartlar ve Teknoloji Enstitüsü de yapay zeka denetimlerini altın standart olarak önermektedir. Düşünce kuruluşu Brookings Enstitüsü’nde yapay zeka yönetişimi üzerine çalışan Alex Engler, buradaki fikir, bu denetimlerin kimya fabrikaları gibi diğer yüksek riskli sektörlerde gördüğümüz türde teftişler gibi hareket edeceğidir, diyor.

Sorun şu ki, algoritmik denetimler için gelen talebi karşılamak için yeterli sayıda bağımsız yüklenici yok ve şirketler, yapay zeka hesap verebilirliği konusunda uzmanlaşmış araştırmacı Deborah Raji ve ortak yazarları, onların sistemlerine erişim vermek konusunda isteksiz olduklarını savunuyor. Geçen Haziran’dan bir kağıt.

Bu yarışmaların geliştirmek istediği şey budur. Yapay zeka topluluğundaki umut, bu denetimleri gerçekleştirmek için daha fazla mühendis, araştırmacı ve uzmana beceri ve deneyim geliştirmeleri konusunda öncülük etmeleridir.

Şimdiye kadar AI dünyasındaki sınırlı incelemelerin çoğu ya akademisyenlerden ya da teknoloji şirketlerinin kendisinden geliyor. Bunun gibi yarışmaların amacı, yapay zekayı denetleme konusunda uzmanlaşmış yeni bir uzmanlar sektörü yaratmaktır.

Twitter’ın etik ekibinin direktörü Rumman Chowdhury, “Bu tür işlerle ilgilenen, başlamak isteyen veya teknoloji şirketlerinde çalışmayan uzman kişiler için üçüncü bir alan yaratmaya çalışıyoruz” diyor. Bias Buccaneers’ın lideri olan makine öğreniminde şeffaflık ve hesap verebilirlik. Bu insanlar, yeni bir beceri öğrenmek isteyen bilgisayar korsanlarını ve veri bilimcilerini içerebilir, diyor.

Bias Buccaneers’ın ödül yarışmasının arkasındaki ekip, bunun birçoğunun ilki olmasını umuyor.

Cohere for AI başkanı Sara Hooker, bunun gibi yarışmalar yalnızca makine öğrenimi topluluğunun denetim yapması için teşvikler yaratmakla kalmıyor, aynı zamanda “en iyi nasıl denetleneceğimize ve ne tür denetimlere yatırım yapmamız gerektiğine” dair ortak bir anlayışı da geliştiriyor. kar amacı gütmeyen bir yapay zeka araştırma laboratuvarı.

Stanford’un yapay zeka denetim yarışmasında yargıç olan Montreal Yapay Zeka Etik Enstitüsü’nün kurucusu Abhishek Gupta, bu çabanın “harika ve kesinlikle çok gerekli” olduğunu söylüyor.

Gupta, “Bir sistemde ne kadar çok gözünüz varsa, kusurların olduğu yerleri bulma olasılığımız o kadar yüksek olur” diyor.