Varoluşsal risk nasıl yapay zekadaki en büyük mem haline geldi?

Tüm bu rakamların ve daha fazlasının imzasını taşıyan en kesin iddia, San Francisco merkezli gündem yaratan bir araştırma kuruluşu olan Yapay Zeka Güvenliği Merkezi (CAIS) tarafından iki hafta önce ortaya konan 22 kelimelik bir açıklamadır. Şunu ilan ediyor: “Yapay zekadan kaynaklanan yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.”

İfade kasıtlıdır. CAIS direktörü Dan Hendryks, “Rorschach testi türünde bir ifade kullanacak olsaydık, ‘varoluşsal risk’ derdik çünkü bu, birçok farklı insan için pek çok şey ifade edebilir,” diyor. Ancak net olmak istediler: bu ekonomiyi çökertmekle ilgili değildi. Hendryks, “Birçoğumuz çeşitli diğer risklerle de ilgilenmemize rağmen, bu yüzden ‘yok olma riski’ ile yola çıktık” diyor.

Daha önce burada bulunduk: AI kıyameti, AI yutturmacasını takip eder. Ama bu sefer farklı hissettiriyor. Overton penceresi değişti. Bir zamanlar aşırı görüşler olan görüşler, artık sadece manşetlere değil, dünya liderlerinin de dikkatini çeken ana akım konuşma noktalarına dönüşüyor. Teknolojinin sosyal etkilerini inceleyen bir kuruluş olan Data and Society’nin araştırma direktörü Jenna Burrell, “Yapay zeka ile ilgili endişeleri dile getiren koro sesleri görmezden gelinemeyecek kadar yükseldi” diyor.

Neler oluyor? AI gerçekten (daha) tehlikeli hale geldi mi? Ve neden bu teknolojiyi başlatanlar şimdi alarmı yükseltenler?

Bu görüşlerin alanı böldüğü doğrudur. Geçen hafta, Meta’nın baş bilim adamı ve Hinton ve Bengio ile 2018 Turing Ödülü’nün ortak alıcısı Yann Lecun, kıyametçiliği “mantıksız” olarak nitelendirdi. Yapay zeka firması Cohere’in CEO’su Aiden Gomez, bunun “zamanımızı saçma bir şekilde kullanmak” olduğunu söyledi.

Diğerleri de alay eder. AI Now Enstitüsü’nün kurucu ortağı ve eski yöneticisi olan Signal başkanı Meredith Whittaker, “Yapay zekanın bu varoluşsal riskleri oluşturacağına dair 1950’de olduğundan daha fazla kanıt yok” diyor. yapay zekanın politika sonuçları. “Hayalet hikayeleri bulaşıcıdır, korkmak gerçekten heyecan verici ve teşvik edicidir.”

Burrell, “Günümüzde olup biten her şeyi gözden geçirmenin de bir yolu,” diyor. “Bu, henüz gerçek veya ciddi bir zarar görmediğimizi gösteriyor.”

eski bir korku

Kaçak, kendi kendini geliştiren makinelerle ilgili endişeler Alan Turing’den beri var. Vernor Vinge ve Ray Kurzweil gibi fütüristler, yapay zekanın insan zekasını geride bıraktığı ve makinelerin kontrolü ele geçirdiği varsayımsal bir tarih olan sözde Singularity’den söz ederek bu fikirleri popüler hale getirdiler.