Soru soran bir sohbet robotu, mantıklı gelmediğinde bunu fark etmenize yardımcı olabilir

Çalışmaya katılmamış olan Harvard Üniversitesi’nde bilgisayar bilimi profesörü olan Fernanda Viégas, kullanıcılara yalnızca sistemin karar verme süreci hakkında içgörü sağlamakla kalmayan, aynı zamanda sistemin kararına varmak için kullandığı mantığı sorgulamak.

Viégas, “Yapay zeka sistemlerinin benimsenmesindeki ana zorluklardan birinin opak olmaları olduğu göz önüne alındığında, yapay zeka kararlarını açıklamak önemlidir” diyor. “Geleneksel olarak, bir yapay zeka sisteminin nasıl bir tahmine veya karara vardığını kullanıcı dostu bir dilde açıklamak yeterince zordu.”

Chicago Üniversitesi’nde bilgisayar bilimi yardımcı doçenti olan Chenhao Tan, yöntemlerinin gerçek dünyada nasıl çalıştığını görmek istediğini söylüyor; örneğin, AI doktorların sorular sorarak daha iyi teşhisler yapmasına yardımcı olabilir mi?

Tel Aviv Üniversitesi Coller School of Management’ta yardımcı doçent olan Lior Zalmanson, araştırma, insanların yapay zekanın yardımıyla karar vermeden önce duraklamaları için sohbet robotlarıyla deneyimlere biraz sürtünme katmanın ne kadar önemli olduğunu gösteriyor.

“Her şey çok büyülü göründüğünde, kendi duyularımıza güvenmeyi bırakıp her şeyi algoritmaya devretmeye başlamak kolay,” diyor.

CHI’de sunulan başka bir makalede, Zalmanson ve Cornell, Bayreuth Üniversitesi ve Microsoft Research’ten bir araştırma ekibi, insanların AI sohbet robotlarının söylediklerine katılmadıklarında bile, kulağa daha iyi geldiğini düşündükleri için bu çıktıyı kullanma eğiliminde olduklarını buldu. kendilerinin yazabilecekleri herhangi bir şey.

Viégas’a göre asıl zorluk, yapay zeka sistemlerini kullanışlı tutarken kullanıcıların ayırt etme yetisini geliştirerek tatlı noktayı bulmak olacak.

“Maalesef, hızlı tempolu bir toplumda, insanların hazır bir yanıt beklemek yerine ne sıklıkla eleştirel düşünmeyle meşgul olmak isteyecekleri belli değil,” diyor.