Yapay zekayı dağıtan kuruluşlar için iyi yönetişim şarttır

Defne: Bu harika. Bu detaylı açıklama için teşekkür ederim. Kişisel olarak yönetişim konusunda uzmanlaştığınız için, kuruluşlar hem yapay zeka için koruma sağlamayı hem de makine öğrenimi dağıtımını nasıl dengeleyebilir, ancak yine de yeniliği teşvik edebilir?

Stephanie: Bu nedenle, AI/ML dağıtımı için korumaları dengelemek ve yeniliği teşvik etmek, kuruluşlar için gerçekten zorlu görevler olabilir. Büyük ölçekli ve son derece hızlı değişiyor. Ancak, bu dengeye sahip olmak kritik derecede önemlidir. Yoksa inovasyonu burada yapmanın ne anlamı var? Bu dengeyi sağlamaya yardımcı olabilecek birkaç temel strateji vardır. Birincisi, net yönetişim politikaları ve prosedürleri oluşturun, daha önce bahsettiğim gibi izleme ve sürekli uyum gibi ihtiyaç duyulan yeni politika ve prosedürlerde AI/ML geliştirmesine ve dağıtımına uygun olmayabilecek mevcut politikaları gözden geçirin ve güncelleyin. İkinci olarak, tüm paydaşları AI/ML geliştirme sürecine dahil edin. Veri mühendislerinden, işletmeden, veri bilimcilerden ve ayrıca modelleri üretimde dağıtan makine öğrenimi mühendislerinden başlıyoruz. Model yorumcuları İş paydaşları ve risk kuruluşları. Ve buna odaklanıyoruz. Baştan sona şeffaflık, otomasyon ve iyi kullanıcı deneyimi sağlayan entegre sistemler kuruyoruz.

Dolayısıyla tüm bunlar, süreci düzene sokmaya ve herkesi bir araya getirmeye yardımcı olacaktır. Üçüncüsü, yalnızca bu genel iş akışına izin vermekle kalmayan, aynı zamanda otomasyonu mümkün kılan verileri de yakalayan sistemler oluşturmamız gerekiyordu. Çoğu zaman makine öğrenimi yaşam döngüsü sürecinde gerçekleşen etkinliklerin çoğu, farklı gruplardan ve departmanlardan geldikleri için farklı araçlarla yapılır. Bu da katılımcıların manuel olarak bilgi paylaşmasına, gözden geçirmesine ve oturumu kapatmasına neden olur. Bu nedenle entegre bir sisteme sahip olmak çok önemlidir. Dördüncüsü, daha önce de belirttiğim gibi AI/ML modellerinin performansını izlemek ve değerlendirmek gerçekten önemlidir çünkü modelleri izlemezsek, aslında orijinal amacından olumsuz bir etkisi olacaktır. Ve bunu manuel olarak yapmak yeniliği boğacaktır. Model dağıtımı otomasyon gerektirir, bu nedenle modellerinizin fiilen çalışan üretim ortamında geliştirilmesine ve dağıtılmasına izin vermek için buna sahip olmak çok önemlidir. Tekrar üretilebilir, üretimde çalışıyor.

Bu çok çok önemli. Ve modelleri izlemek için iyi tanımlanmış ölçümlere sahip olmak ve bu, verilerin yanı sıra altyapı modeli performansının kendisini de içerir. Son olarak, eğitim ve öğretim sağlamak, çünkü bu bir grup sporu, herkes farklı geçmişlerden geliyor ve farklı bir rol oynuyor. Tüm yaşam döngüsü sürecine ilişkin bu çapraz anlayışa sahip olmak gerçekten önemlidir. Ve kullanılacak doğru verilerin ne olduğunu ve kullanım durumları için verileri doğru kullanıp kullanmadığımızı anlama eğitimine sahip olmak, daha sonra model konuşlandırmayı reddetmemizi engelleyecektir. Dolayısıyla, tüm bunların yönetişimi ve yeniliği dengelemek için anahtar olduğunu düşünüyorum.

Defne: Yani burada tartışılacak başka bir konu var ve cevabınızda buna değindiniz, o da şuydu, herkes yapay zeka sürecini nasıl anlıyor? Oluşturmadan yönetişime ve uygulamaya kadar AI/ML yaşam döngüsünde şeffaflığın rolünü açıklayabilir misiniz?

Stephanie: Elbette. Yani AI/ML, hala oldukça yeni, hala gelişiyor, ancak genel olarak insanlar, iş problemini tanımlayan, verileri elde eden ve sorunu çözmek için verileri işleyen ve sonra inşa eden üst düzey bir süreç akışına yerleştiler. model geliştirme ve ardından model dağıtımı olan model. Ancak dağıtımdan önce, modellerin doğru sorumlu yapay zeka ilkelerine göre geliştirildiğinden emin olmak için şirketimizde bir inceleme ve ardından sürekli izleme yapıyoruz. İnsanlar şeffaflığın rolü hakkında konuştuğunda, bu yalnızca tüm yaşam döngüsü boyunca tüm meta veri eserlerini, yaşam döngüsü olaylarını yakalama yeteneği ile ilgili değildir, tüm bu meta verilerin, insanların ne olduğunu bilmesi için zaman damgasıyla şeffaf olması gerekir. Biz de bilgileri böyle paylaştık. Ve bu şeffaflığa sahip olmak çok önemlidir çünkü güven oluşturur, adaleti sağlar. Doğru verilerin kullanıldığından emin olmamız gerekiyor ve bu açıklanabilirliği kolaylaştırıyor.

Modellerle ilgili açıklanması gereken bir şey var. Kararları nasıl verir? Ve sonra devam eden izlemeyi desteklemeye yardımcı olur ve farklı yollarla yapılabilir. Başından beri çok vurguladığımız bir şey, AI girişiminin hedeflerinin, kullanım senaryosu hedefinin ve amaçlanan veri kullanımının ne olduğunu anlamaktır. Bunu gözden geçiriyoruz. Verileri nasıl işlediniz? Veri kökeni ve dönüştürme süreci nedir? Hangi algoritmalar kullanılıyor ve kullanılan topluluk algoritmaları neler? Ve model spesifikasyonunun belgelenmesi ve açıklanması gerekir. Modelin ne zaman kullanılması ve ne zaman kullanılmaması gerektiğine dair sınırlama nedir? Açıklanabilirlik, denetlenebilirlik, bu modelin nasıl üretildiğini, model soyunun kendisi aracılığıyla gerçekten izleyebilir miyiz? Ayrıca, altyapı, dahil olduğu kapsayıcılar gibi teknoloji özellikleri, çünkü bu aslında model performansını, devreye alındığı yeri, gerçekte hangi iş uygulamasının modelin çıktı tahminini kullandığını ve kararlara kimlerin erişebileceğini etkiler. modeli. Yani bunların hepsi şeffaflık konusunun birer parçası.

Defne: Evet, bu oldukça kapsamlı. Yapay zekanın, üretken yapay zeka gibi pek çok gelişmekte olan teknoloji teknolojisiyle hızla değişen bir alan olduğu düşünülürse, JPMorgan Chase’teki ekipler bu yeni buluşları nasıl takip ederken aynı zamanda onları ne zaman ve nerede konuşlandıracaklarını da seçiyor?