2023’te yapay zekayı değiştiren dört trend
Varoluşsal risk yapay zekanın en büyük memlerinden biri haline geldi. Hipotez, bir gün insanlardan çok daha akıllı bir yapay zeka yaratacağımız ve bunun ciddi sonuçlara yol açabileceği yönünde. Bu, OpenAI CEO’su Sam Altman’ın görevden alınmasında (ve birkaç gün sonra yeniden göreve getirilmesinde) önemli bir rol oynayan OpenAI’nin baş bilim adamı Ilya Sutskever’in de aralarında bulunduğu Silikon Vadisi’ndeki birçok kişi tarafından desteklenen bir ideolojidir.
Ancak herkes bu fikre katılmıyor. Meta’nın yapay zeka liderleri Yann LeCun ve Joelle Pineau, bu korkuların “saçma” olduğunu ve yapay zeka riskleriyle ilgili tartışmaların “mantıksız” hale geldiğini söyledi. Araştırmacı Joy Buolamwini gibi yapay zekanın diğer birçok güçlü oyuncusu, varsayımsal risklere odaklanmanın yapay zekanın bugün neden olduğu gerçek zararlardan dikkati dağıttığını söylüyor.
Bununla birlikte, teknolojinin aşırı zarar verme potansiyeline olan ilginin artması, yapay zeka politikası hakkında birçok önemli konuşmaya yol açtı ve tüm dünyadaki kanun koyucuları harekete geçmeye teşvik etti.
4. Yapay Zeka Vahşi Batı’nın günleri sona erdi
ChatGPT sayesinde ABD Senatosu’ndan G7’ye kadar herkes bu yıl yapay zeka politikası ve düzenlemeleri hakkında konuşuyordu. Aralık ayı başında Avrupalı yasa yapıcılar, en riskli yapay zekanın nasıl daha sorumlu bir şekilde geliştirilebileceğine dair bağlayıcı kurallar ve standartlar getirecek olan Yapay Zeka Yasası üzerinde anlaşarak yoğun bir politika yılını tamamladılar. Ayrıca polisin halka açık yerlerde yüz tanıma özelliğini kullanması gibi bazı “kabul edilemez” yapay zeka uygulamalarını da yasaklayacak.
Bu arada Beyaz Saray, yapay zeka konusunda bir idari emir ve önde gelen yapay zeka şirketlerinin gönüllü taahhütlerini açıkladı. Çabaları yapay zeka için daha fazla şeffaflık ve standart getirmeyi amaçladı ve kurumlara yapay zeka kurallarını kendi sektörlerine uyacak şekilde uyarlama konusunda çok fazla özgürlük verdi.
Çok dikkat çeken somut politika tekliflerinden biri filigranlardı; yapay zeka tarafından oluşturulan içeriği işaretlemek için metin ve resimlerdeki bilgisayarlar tarafından algılanabilen görünmez sinyaller. Bunlar intihalleri takip etmek veya dezenformasyonla mücadeleye yardımcı olmak için kullanılabilir ve bu yıl bunları yapay zeka tarafından oluşturulan metin ve görsellere uygulamanın başarılı olduğunu gördük.
Sadece milletvekilleri değil, avukatlar da meşguldü. Sanatçılar ve yazarlar, yapay zeka şirketlerinin fikri mülkiyetlerini kendi rızaları olmadan ve tazminat ödemeden kazıdıklarını iddia ettikleri için rekor sayıda dava gördük. Heyecan verici bir karşı saldırıda, Chicago Üniversitesi’ndeki araştırmacılar, sanatçıların eğitim verilerini görüntü üreten yapay zeka modellerine ciddi zarar verebilecek şekillerde bozarak üretken yapay zekaya karşı savaşmalarına olanak tanıyan yeni bir veri zehirleme aracı olan Nightshade’i geliştirdi. Bir direniş ortaya çıkıyor ve gelecek yıl teknolojinin güç dengesini değiştirmek için daha fazla tabandan çaba gösterilmesini bekliyorum.
Derin Öğrenme
Artık OpenAI’nin süper hizalama ekibinin neler yaptığını biliyoruz
OpenAI, süper-zekanın (insanları alt edebilecek varsayımsal bir gelecek yapay zekasının) haydutluk yapmasını önlemeye adanmış şirket içi girişimi olan süper hizalama ekibinin ilk sonuçlarını açıkladı. Ekip, geçen ay OpenAI’nin CEO’su Sam Altman’ı kovup birkaç gün sonra yeniden göreve getiren grubun bir parçası olan baş bilim adamı Ilya Sutskever tarafından yönetiliyor.
Her zamanki işler: Şirketin birçok duyurusunun aksine, bu büyük bir atılımın habercisi değil. Ekip, gösterişten uzak bir araştırma makalesinde, daha az güçlü bir büyük dil modelinin daha güçlü bir modeli denetlemesine olanak tanıyan bir tekniği tanımlıyor ve bunun, insanların insanüstü makineleri nasıl denetleyebileceğini anlama yolunda küçük bir adım olabileceğini öne sürüyor. Will Douglas Heaven’dan daha fazlasını okuyun.
Bitler ve Baytlar
Google DeepMind çözülemeyen bir matematik problemini çözmek için geniş bir dil modeli kullandı
Nature’da yayınlanan bir makalede şirket, uzun süredir devam eden bir bilimsel bulmacanın çözümünü keşfetmek için ilk kez büyük bir dil modelinin kullanıldığını ve daha önce var olmayan doğrulanabilir ve değerli yeni bilgiler ürettiğini söylüyor. (MIT Teknoloji İncelemesi)