Yapay zeka riskleriyle mücadele: İtibarınız tehlikede

Risk tamamen bağlamla ilgilidir. Aslında en büyük risklerden biri kabul etmemek veya anlayamamaktır. senin bağlam: Bu nedenle riski değerlendirirken oradan başlamanız gerekir.

Bu özellikle itibar açısından önemlidir. Örneğin müşterilerinizi ve onların beklentilerini düşünün. Bir yapay zeka sohbet robotuyla etkileşime girme konusunda ne hissedebilirler? Onlara yanlış veya yanıltıcı bilgi vermek ne kadar zarar verici olabilir? Belki küçük müşteri rahatsızlıkları başa çıkabileceğiniz bir şeydir, ancak ya sağlık veya mali açıdan önemli bir etkisi varsa?

Yapay zekayı uygulamak mantıklı görünse bile, dikkate alınması gereken bazı alt itibar riskleri olduğu açıktır. Yıllardır kullanıcı deneyiminin ve müşteri odaklı olmanın önemi hakkında konuşarak geçirdik: Yapay zeka bu konuda bize yardımcı olsa da aynı zamanda bunları da baltalayabilir.

Takımlarınız için de sorulacak benzer bir soru var. Yapay zeka, verimliliği artırma ve insanların işini kolaylaştırma kapasitesine sahip olabilir, ancak yanlış şekilde kullanıldığında mevcut çalışma şekillerini ciddi şekilde bozabilir. Sektör, son zamanlarda geliştirici deneyiminden çokça söz ediyor – bu, bu yayın için yazdığım bir konu – ve kuruluşların yapay zeka hakkında aldığı kararların, ekiplerin deneyimlerini zayıflatması değil iyileştirmesi gerekiyor.

Dünyanın dört bir yanındaki müşterilerle çalışma deneyimlerimize dayanarak yazılım endüstrisinin iki yılda bir çekilen bir görüntüsü olan Düşünce İşi Teknoloji Radarı'nın son baskısında tam olarak bu noktadan bahsediyoruz. Yapay zeka ekip asistanlarını yazılım mühendisliğinde ortaya çıkan en heyecan verici alanlardan biri olarak adlandırıyoruz, ancak aynı zamanda odak noktasının bireyler değil, ekiplerin etkinleştirilmesi olması gerektiğini de belirtiyoruz. En son raporda, “Bir grup silolara ayrılmış yapay zeka destekli 10x mühendis yerine, '10x ekibini' oluşturmaya yardımcı olacak yapay zeka ekip asistanları yaratmanın yollarını aramalısınız” dedik.

Ekiplerinizin çalışma bağlamına dikkat etmemek, itibarınızın ciddi şekilde zarar görmesine neden olabilir. Bazı yükseliş yanlısı organizasyonlar bunu inovasyonun bir parçası olarak görebilir ama öyle değil. Bu, potansiyel çalışanlara, özellikle de son derece teknik çalışanlara, yaptıkları işi gerçekten anlamadığınızı veya önemsemediğinizi gösteriyor.

Riski yönetmeye yardımcı olacak birçok araç vardır. Düşünce çalışmaları, kuruluşların teknoloji (yalnızca yapay zeka değil) hakkında daha sorumlu kararlar almak için kullanabileceği bir araç ve teknikler koleksiyonu olan Sorumlu Teknoloji Başucu Kitabının bir araya getirilmesine yardımcı oldu.

Ancak riskleri (özellikle de itibarla ilgili olanları) yönetmenin, teknoloji uygulamasının ayrıntılarına gerçekten dikkat edilmesini gerektirdiğini unutmamak önemlidir. Bu, özellikle Hintli sivil toplum kuruluşlarıyla yaptığımız çalışmalarda açıkça ortaya çıktı; vatandaşların kendi ana dillerinde etkileşim kurabilecekleri bir sosyal yardım sohbet robotu geliştirdik. Buradaki riskler daha önce tartışılanlardan farklı değildi: Chatbot'un kullanıldığı bağlam (hayati hizmetlere erişim desteği olarak), yanlış veya “halüsinasyona uğramış” bilgilerin insanların ihtiyaç duydukları kaynaklara ulaşmasını engelleyebileceği anlamına geliyordu.