Yarışı algılayan yapay zeka
Doktorlar, röntgen ve BT taramaları gibi tıbbi görüntülerden bir kişinin ırkını söyleyemez. Ancak MIT araştırmacılarını içeren bir ekip, yalnızca bu tür görüntüleri analiz ederek hastaları beyaz, Siyah veya Asyalı olarak (kendi tanımlarına göre) tanımlamak için bir derin öğrenme modeli eğitmeyi başardı ve yine de bilgisayarın nasıl çalıştığını çözemediler. BT.
EECS’de yardımcı doçent olan makale yazarı Marzyeh Ghassemi, anatomi, kemik yoğunluğu ve görüntü çözünürlüğündeki farklılıklar dahil olmak üzere değişkenlere baktıktan sonra, araştırma ekibinin “bu görev için iyi bir vekil belirlemeye yaklaşamadığını” söylüyor. ve Tıp Mühendisliği ve Bilimi Enstitüsü (IMES).
Bunun endişe verici olduğunu söylüyorlar, çünkü doktorlar, hastaların kemoterapiye mi yoksa yoğun bakım ünitesine mi aday oldukları gibi kararlarda yardım için algoritmalar kullanıyorlar. Şimdi bu bulgular, algoritmaların “hapsedilmiş olsanız da olmasanız da, tüm bu bilgiler gizlenmiş olsa bile – ırkınıza, etnik kökeninize, cinsiyetinize baktığı” olasılığını artırıyor. IMES’te araştırmacı bilim adamı ve Harvard Tıp Okulu’nda doçent.
Celi, klinisyenlerin ve bilgisayar bilimcilerinin içgörü için sosyal bilimcilere başvurmaları gerektiğini düşünüyor. “Bu algoritmaları nasıl tasarladığımız, geliştirdiğimiz, dağıttığımız ve değerlendirdiğimiz konusunda tartmak ve girdi ve geri bildirim sağlamak için başka bir uzman grubuna ihtiyacımız var” diyor. “Verileri araştırmadan önce veri bilimcilerine de sormamız gerekiyor: Eşitsizlikler var mı? Hangi hasta grupları marjinalize ediliyor? Bu farklılıkların nedenleri nelerdir?”
Algoritmaların genellikle insanların sahip olmadığı bilgilere erişimi vardır ve bu, uzmanların istenmeyen sonuçları anlamak için çalışması gerektiği anlamına gelir. Aksi takdirde, algoritmaların tıbbi bakımdaki mevcut önyargıları sürdürmesini engellemenin bir yolu yoktur.