Yapay zeka sağlık hizmetlerine sızıyor. Tüm kararları almasına izin vermemeliyiz.

AI zaten sağlık hizmetlerinde kullanılıyor. Bazı hastaneler bu teknolojiyi hastaların triyajına yardımcı olmak için kullanır. Bazıları teşhise yardımcı olmak veya tedavi planları geliştirmek için kullanır. Ancak İngiltere’deki Oxford Üniversitesi’nde teknoloji ve düzenleme profesörü olan Sandra Wachter, yapay zekanın benimsenmesinin gerçek boyutunun belirsiz olduğunu söylüyor.

Wachter, “Bazen ne tür sistemlerin kullanıldığını gerçekten bilmiyoruz” diyor. Ancak, teknoloji geliştikçe ve sağlık hizmetleri sistemleri maliyetleri düşürmenin yollarını aradıkça, benimsenmelerinin muhtemelen artacağını biliyoruz, diyor.

Araştırmalar, doktorların bu teknolojilere zaten çok güvendiğini gösteriyor. Birkaç yıl önce yayınlanan bir çalışmada, onkologlardan cilt kanseri teşhislerini bir AI sisteminin sonuçlarıyla karşılaştırmaları istendi. Birçoğu, bu sonuçlar kendi klinik görüşleriyle çeliştiğinde bile AI’nın sonuçlarını kabul etti.

Bu teknolojilere gereğinden fazla güvenmemiz gibi çok gerçek bir risk var. İşte burada ataerkillik devreye girebilir.

“Paternalizm, ‘doktor en iyisini bilir’ deyimiyle ifade ediliyor” Kanada, Ontario’daki Hasta Çocuklar Hastanesi’nden Melissa McCradden ve Roxanne Kirsch’i yakın tarihli bir bilimsel dergi makalesine yazın. Buradaki fikir, tıp eğitiminin, o kişinin duygularına, inançlarına, kültürüne ve herhangi birimizin yaptığı seçimleri etkileyebilecek diğer her şeye bakılmaksızın, tedavi edilen kişi adına karar verecek en iyi kişi olduğudur.

McCradden ve Kirsch, “Paternalizm, AI en yüksek kanıt biçimi olarak konumlandırıldığında, her şeyi bilen doktorun yerine her şeyi bilen AI ile değiştirildiğinde özetlenebilir,” diye devam ediyor. “Algoritmik ataerkilliğe doğru yükselen bir eğilim” olduğunu söylüyorlar. Bu, birçok nedenden dolayı sorunlu olacaktır.