Yapay zeka çağında sorumlu teknoloji kullanımı

Parsons, teknoloji kullanımının sıklıkla yanlış gittiğini belirtiyor: “Çünkü ya iyinin neye benzediğine dair kendi fikirlerimize ya da daha geniş bir izleyici kitlesi yerine belirli bir izleyici kitlesine fazlasıyla odaklanmış durumdayız.” Bu, bir uygulama geliştiricisinin yalnızca kendi coğrafyasını, eğitimini ve refahını paylaşan hayali bir müşteri için geliştirme yapmasına veya kötü niyetli bir aktörün ekosistemine ne gibi zararlar verebileceğini düşünmeyen bir ürün ekibine benzeyebilir. Parsons, “İnsanların benim ürünümü, benim ürünümü kullanmalarını düşündüğüm şekilde kullanacaklarını, çözmelerini istediğim sorunu benim çözmelerini istediğim şekilde çözeceklerini düşünüyoruz” diyor. “Fakat gerçek dünyada işler ortaya çıktığında böyle olmuyor.”

Yapay zeka elbette bazı belirgin sosyal ve etik zorlukları da beraberinde getiriyor. Teknolojinin benzersiz zorluklarından bazıları yapay zekanın çalışma biçiminden kaynaklanmaktadır: deterministik olmaktan ziyade istatistiksel doğası, geçmiş verilerden gelen kalıpları tanımlaması ve sürdürmesi (böylece mevcut önyargıları güçlendirmesi) ve bilmediği şeyler hakkında farkındalık eksikliği (halüsinasyonlarla sonuçlanır). Ve bazı zorluklar, yapay zeka yaratıcılarının ve kullanıcılarının kendilerinin bilmediklerinden kaynaklanıyor: yapay zeka modellerinin altında yatan incelenmemiş veri yığınları, yapay zeka çıktılarının sınırlı açıklanabilirliği ve teknolojinin, kullanıcıları, onu mantık yürüten bir insan zekası olarak ele alacak şekilde kandırma yeteneği.

Ancak Parsons, yapay zekanın sorumlu teknolojiyi çok fazla değiştirmediğine, bazı problemlerini yeni bir odağa getirdiğine inanıyor. Örneğin fikri mülkiyet kavramları yüzlerce yıl öncesine dayanmaktadır, ancak büyük dil modellerinin (LLM'ler) yükselişi, bir makinenin bir yazarın sesini veya bir sanatçının tarzını taklit edecek şekilde eğitilebildiği durumlarda neyin adil kullanımı oluşturduğuna dair yeni sorular ortaya çıkarmıştır. “Birinin fikri mülkiyetini ihlal ediyorsanız bu sorumlu teknoloji değildir, ancak yüksek lisans diplomalarımız olmadan bunu düşünmek çok daha kolaydı” diyor.

Onlarca yıl süren sorumlu teknoloji çalışmaları sonucunda geliştirilen ilkeler, bu geçiş sırasında hâlâ geçerli olmaya devam ediyor. Şeffaflık, gizlilik ve güvenlik, düşünceli düzenleme, toplumsal ve çevresel etkilere dikkat edilmesi ve çeşitlilik ve erişilebilirlik girişimleriyle daha geniş katılımın sağlanması, teknolojinin insan yararına çalışmasını sağlamanın anahtarı olmaya devam ediyor.

MIT Technology Review Insights'ın Thinkworks ile birlikte hazırladığı 2023 tarihli “Sorumlu teknolojinin durumu” raporu, yöneticilerin bu hususları ciddiye aldığını ortaya çıkardı. Örneğin ankete katılan iş liderlerinin yüzde yetmiş üçü, teknolojiyle ilgili kararlar alırken sorumlu teknoloji kullanımının iş ve mali hususlar kadar önemli olacağı konusunda hemfikir.

Ancak bu yapay zeka anı, daha önce sorumlu teknoloji çalışmalarını sekteye uğratan engellerin aşılması için eşsiz bir fırsatı temsil edebilir. Üst düzey yönetimin farkındalığının olmayışı (ankete katılanların %52'si sorumlu uygulamaları benimsemenin önündeki en büyük engel olarak belirtmiştir) günümüzde kesinlikle daha az endişe vericidir: anlayışlı yöneticiler bu yeni teknolojide hızla akıcı hale geliyor ve sürekli olarak bunun potansiyel sonuçları, başarısızlıkları hatırlatılıyor. ve toplumsal zararlar.

Bahsedilen diğer önemli engeller ise değişime karşı kurumsal direnç (%46) ve iç rekabet öncelikleri (%46) idi. Kendilerini net bir yapay zeka stratejisinin arkasında yeniden konumlandıran ve onun sektörü değiştiren potansiyelini anlayan kuruluşlar, bu ataletin ve kararsızlığın da üstesinden gelebilir. Yapay zekanın, çalışma ve yaşama biçimimizin çoğunu yeniden tasarlamak için hem araçları hem de motivasyonu sağladığı bu eşsiz kesinti anında, eğer istersek, sorumlu teknoloji ilkelerini bu geçişe dahil edebiliriz.

Parsons ise, insanların yapay zekayı iyilik için kullanma ve yapay zekanın sınırlamalarını sağduyulu yönergeler ve insan korkuluklarıyla iyi tasarlanmış süreçlerle aşma becerisi konusunda son derece iyimser. “Teknologlar olarak çözmeye çalıştığımız soruna ve onu nasıl çözmeye çalıştığımıza o kadar odaklanıyoruz ki” diyor. “Ve sorumlu teknolojinin tek amacı, başınızı kaldırmak, etrafınıza bakmak ve dünyada benimle birlikte başka kimlerin olabileceğini görmek.”

Thinkworks'ün sorumlu teknolojiye ilişkin analizleri ve tavsiyeleri hakkında daha fazla bilgi edinmek için şu adresi ziyaret edin: Görünümlü Cam 2024.

Bu içerik, MIT Technology Review'un özel içerik kolu olan Insights tarafından üretilmiştir. MIT Technology Review'un editör kadrosu tarafından yazılmadı.