Yerleşik sorumlu yapay zeka ile çok disiplinli bir strateji uygulama
Hesap verebilirlik ve gözetim sürekli olmalıdır çünkü yapay zeka modelleri zaman içinde değişebilir; Aslında, geleneksel veri araçlarının aksine, derin öğrenme etrafındaki abartı, değişen verilere yanıt olarak ayarlama ve değiştirme esnekliğine dayanmaktadır. Ancak bu, bir modelin tahmin doğruluğundaki performansının zamanla kötüleştiği veya vahşi doğada ne kadar uzun yaşarsa kusurlar ve önyargılar sergilemeye başladığı model kayması gibi sorunlara yol açabilir. Açıklanabilirlik teknikleri ve döngüdeki insan gözetim sistemleri, yalnızca veri bilimcilerin ve ürün sahiplerinin en baştan daha yüksek kaliteli yapay zeka modelleri oluşturmasına yardımcı olmakla kalmaz, aynı zamanda modellerin kalitesinin düşmemesini sağlamak için dağıtım sonrası izleme sistemleri aracılığıyla da kullanılabilir. zaman.
“Sadece model eğitimine veya eğitim modellerimizin önyargılı olmadığından emin olmaya odaklanmıyoruz; ayrıca makine öğrenimi geliştirme yaşam döngüsüne dahil olan tüm boyutlara odaklanıyoruz” diyor Cukor. “Bu bir meydan okuma ama bu yapay zekanın geleceği” diyor. “Herkes bu disiplin seviyesini görmek istiyor.”
Sorumlu yapay zekaya öncelik vermek
RAI’nin sadece sahip olunması güzel bir şey değil, önemli olduğu konusunda açık bir ticari görüş birliği vardır. PwC’nin 2022 Yapay Zeka İşletme Anketinde, yanıt verenlerin %98’i, yapay zeka yönetişimini iyileştirme, yapay zeka modeli performansını izleme ve raporlama ve kararların yorumlanabilir ve kolayca açıklanabilir olmasını sağlama gibi önlemler yoluyla yapay zekayı sorumlu kılmak için en azından bazı planları olduğunu söyledi.
Bu özlemlere rağmen, bazı şirketler RAI’yi uygulamakta zorlandılar. PwC anketi, yanıt verenlerin yarısından daha azının somut RAI eylemleri planladığını ortaya çıkardı. MIT Sloan Management Review ve Boston Consulting Group tarafından yapılan başka bir araştırma, çoğu şirketin RAI’yi teknolojinin risklerini (güvenlik, yanlılık, adalet ve mahremiyetle ilgili riskler dahil) hafifletmek için bir araç olarak görmelerine rağmen, %56’sı ile buna öncelik vermediklerini kabul ettiklerini ortaya koydu. en yüksek önceliğe sahiptir ve yalnızca %25’i tamamen olgunlaşmış bir programa sahiptir. Zorluklar, kurumsal karmaşıklık ve kültürden, etik uygulamalar veya araçlar konusunda fikir birliği eksikliğinden, yetersiz kapasite veya çalışan eğitiminden, düzenleyici belirsizlikten ve mevcut risk ve veri uygulamalarıyla entegrasyondan kaynaklanabilir.
Çukor için RAI, bu önemli operasyonel zorluklara rağmen isteğe bağlı değildir. “Birçok kişi için, sorumlu inovasyonu hızlı bir şekilde mümkün kılan korkuluklara ve uygulamalara yatırım yapmak bir takas gibi geliyor. JPMorgan Chase’in müşterilerimize karşı sorumlu bir şekilde yenilik yapma görevi vardır, bu da kaynak sağlama, sağlamlık, gizlilik, güç, açıklanabilirlik ve iş etkisi gibi konular arasındaki zorlukları dikkatli bir şekilde dengelemek anlamına gelir.” Veri-Yapay zeka yaşam döngüsünün tüm aşamalarında uygun kontrollere ve risk yönetimi uygulamalarına erkenden yatırım yapılması, firmanın yeniliği hızlandırmasını ve nihayetinde firma için bir rekabet avantajı olarak hizmet etmesini sağlayacaktır.
RAI girişimlerinin başarılı olması için, RAI’nin yalnızca teknik bir onay işareti olarak eklenmesinden ziyade kuruluşun kültürüne yerleştirilmesi gerekir. Bu kültürel değişiklikleri uygulamak, doğru becerileri ve zihniyeti gerektirir. Bir MIT Sloan Management Review ve Boston Consulting Group anketi, yanıt verenlerin %54’ünün RAI uzmanlığı ve yeteneği bulmakta zorlandığını ve %53’ünün mevcut personel arasında eğitim veya bilgi eksikliği olduğunu gösterdiğini ortaya koydu.
Yetenek bulmayı söylemek yapmaktan daha kolaydır. RAI gelişmekte olan bir alandır ve uygulayıcıları, sosyologlardan, veri bilimcilerden, filozoflardan, tasarımcılardan, politika uzmanlarından ve avukatlardan gelen katkılarla, çalışmanın açık multidisipliner doğasına dikkat çekmiştir.
Cukor, “Bu benzersiz bağlam ve alanımızın yeniliği göz önüne alındığında, bir üçlüye sahip bireyler bulmak nadirdir: AI/ML’de teknik beceriler, etikte uzmanlık ve finansta alan uzmanlığı,” diyor Cukor. “Bu nedenle finansta RAI, temelinde işbirliği olan çok disiplinli bir uygulama olmalıdır. Yeteneklerin ve bakış açılarının doğru karışımını elde etmek için, farklı alanlardaki uzmanları işe almanız gerekir;
Bu makale yalnızca bilgilendirme amaçlıdır ve yasal, vergi, finans, yatırım, muhasebe veya düzenleyici tavsiye olarak tasarlanmamıştır. Burada ifade edilen görüşler kişi(ler)in kişisel görüşleridir ve JPMorgan Chase & Co.’nun görüşlerini temsil etmez. Herhangi bir ifadenin, bağlantılı kaynakların, bildirilen bulguların veya alıntıların doğruluğu JPMorgan Chase & Co.’nun sorumluluğunda değildir.
Bu içerik, MIT Technology Review’in özel içerik kolu olan Insights tarafından üretilmiştir. MIT Technology Review’un editör kadrosu tarafından yazılmamıştır.