Yapay zekayı bu kadar çok kullanmayı bırakmamız gerektiğini söyleyen yapay zeka uzmanıyla tanışın

Broussard da kısa süre önce meme kanserinden kurtuldu ve elektronik tıbbi kayıtlarının ince yazılarını okuduktan sonra, teşhisinde bir yapay zekanın rol oynadığını fark etti – bu giderek yaygınlaşan bir şey. Bu keşif, yapay zekanın kanser teşhisinde ne kadar iyi olduğu hakkında daha fazla bilgi edinmek için kendi deneyini yürütmesine yol açtı.

Polisin teknoloji kullanımıyla ilgili sorunların yanı sıra keşfettiği şeyler, “AI adaletinin” sınırları ve AI’nın ortaya koyduğu bazı zorluklar için gördüğü çözümler hakkında konuşmak için oturduk. Konuşma netlik ve uzunluk için düzenlendi.

Kendi kanser teşhisinizin bir parçası olarak AI hakkında kitapta paylaştığınız kişisel bir hikaye beni çok etkiledi. Okurlarımıza neler yaptığınızı ve bu deneyimden neler öğrendiğinizi anlatır mısınız?

Pandemi başlangıcında bana meme kanseri teşhisi kondu. Sadece dünya kapandığı için içeride sıkışıp kalmadım; Ben de büyük bir ameliyat geçirdiğim için içeride mahsur kaldım. Bir gün çizelgemi karıştırırken, taramalarımdan birinin şunu söylediğini fark ettim: Bu tarama bir yapay zeka tarafından okundu. Düşündüm, Bir AI neden mamogramımı okudu? Kimse bana bundan bahsetmemişti. Elektronik tıbbi kaydımın belirsiz bir bölümündeydi. Yapay zeka tabanlı kanser saptama teknolojisindeki son durumu gerçekten merak ettim, bu yüzden sonuçlarımı tekrarlayıp tekrarlayamayacağımı görmek için bir deney tasarladım. Kendi mamogramlarımı aldım ve kanserimi tespit edip etmeyeceğini görmek için onları açık kaynaklı bir yapay zekadan geçirdim. Kitapta keşfettiğim şey, yapay zekanın kanser teşhisinde nasıl çalıştığına dair birçok yanlış kanıya sahip olduğumdu.

[Once Broussard got the code working, AI did ultimately predict that her own mammogram showed cancer. Her surgeon, however, said the use of the technology was entirely unnecessary for her diagnosis, since human doctors already had a clear and precise reading of her images.]

Bir kanser hastası olarak fark ettiğim şeylerden biri, teşhisimde ve iyileşmemde beni destekleyen doktorların, hemşirelerin ve sağlık çalışanlarının çok şaşırtıcı ve çok önemli olmalarıydı. Gidip mamografinizi çektirdiğiniz ve sonra küçük kırmızı bir kutunun şunu söyleyeceği steril, bilgisayarlı bir gelecek istemiyorum. Bu muhtemelen kanser. Hayatı tehdit eden bir hastalıktan bahsederken bu aslında kimsenin istediği bir gelecek değil, ancak kendi mamogramlarına sahip çok fazla AI araştırmacısı yok.

Bazen AI ön yargısı yeterince “sabitlendiğinde” teknolojinin çok daha yaygın hale gelebileceğini duyarsınız. Bu argümanın sorunlu olduğunu yazıyorsunuz. Neden?

Bu argümanla ilgili sahip olduğum en büyük sorunlardan biri, AI’nın bir şekilde tam potansiyeline ulaşacağı ve herkesin çabalaması gereken hedefin bu olduğu fikri. AI sadece matematiktir. Dünyadaki her şeyin matematik tarafından yönetilmesi gerektiğini düşünmüyorum. Bilgisayarlar matematik problemlerini çözmede gerçekten iyidir. Ancak sosyal sorunları çözmede çok iyi değiller, yine de sosyal sorunlara uygulanıyorlar. Bu tür bir hayali son oyun Oh, her şey için AI kullanacağız üzerine imza attığım bir gelecek değil.

Ayrıca yüz tanıma hakkında da yazıyorsunuz. Geçenlerde, yüz tanımayı yasaklama hareketinin (özellikle polislikte) teknolojiyi daha adil veya daha doğru hale getirme çabalarını caydırdığına dair bir tartışma duydum. Bunun hakkında ne düşünüyorsun?

Kesinlikle polislikte yüz tanıma kullanımını desteklemeyen insanların kampına düşüyorum. Bunun onu gerçekten kullanmak isteyen insanlar için cesaret kırıcı olduğunu anlıyorum, ancak kitabı araştırırken yaptığım şeylerden biri polislik teknolojisinin tarihine derinlemesine dalmak oldu ve bulduğum şey cesaret verici değildi.

Mükemmel kitapla başladım. Siyah Yazılım ile [NYU professor of Media, Culture, and Communication] Charlton McIlwain, ve IBM’in, 1960’larda sözde Yoksulluğa Karşı Savaş varken aynı zamanda yeni bilgisayarlarının çoğunu satmak istediğini yazıyor. Makineleri gerçekten satmak isteyen, onları uygulayacak bir problem arayan insanlarımız vardı, ama onlar sosyal problemi anlamadılar. Günümüze gelecek olursak, o zamanlar alınan kararların feci sonuçlarıyla hâlâ yaşıyoruz.