Yapay zeka efsanesi Batılı milletvekilleri yanılıyor
Bu hikaye ilk olarak AI hakkındaki haftalık haber bültenimiz The Algorithm’de yayınlandı. Bunun gibi hikayeleri önce gelen kutunuza almak için buradan kaydolun.
ABD ve AB, teknolojiyi nasıl düzenleyecekleri konusunda farklı görüşlere sahip olsalar da, milletvekilleri bir konuda hemfikir görünüyor: Batı’nın yapay zeka destekli sosyal puanlamayı yasaklaması gerekiyor.
Onların anladığı şekliyle sosyal puanlama, otoriter hükümetlerin – özellikle Çin’in – insanların güvenilirliğini derecelendirdiği ve kredileri çalmak veya geri ödememek gibi istenmeyen davranışlar nedeniyle onları cezalandırdığı bir uygulamadır. Esasen, her vatandaşa atanan distopik bir süper puan olarak görülüyor.
AB şu anda AI Yasası adı verilen ve üye devletlerin ve hatta belki de özel şirketlerin böyle bir sistemi uygulamasını yasaklayacak yeni bir yasayı müzakere ediyor.
Bir Alman düşünce kuruluşu olan Mercator Institute for China Studies’de analist olan Vincent Brussee, sorun şu ki, “aslında ince havayı yasaklıyor” diyor.
2014’te Çin, toplumda güven oluşturan eylemleri ödüllendiren ve aksini cezalandıran bir sistem oluşturmak için altı yıllık bir plan duyurdu. Sekiz yıl sonra, geçmişteki sosyal kredi pilot uygulamalarını düzenlemeye ve gelecekteki uygulamalara rehberlik etmeye çalışan bir yasa taslağı daha yeni yayınlandı.
Bazı çekişmeli yerel deneyler oldu2013’te Rongcheng’in küçük şehrinde olduğu gibi, her ikamet edene, eylemlerinin nasıl değerlendirildiğine göre artırılabilen veya azaltılabilen 1.000’lik bir başlangıç kişisel kredi puanı verdi. İnsanlar artık vazgeçebiliyor ve yerel yönetim bazı tartışmalı kriterleri kaldırdı.
Ancak bunlar başka yerlerde daha geniş bir ilgi görmedi ve tüm Çin nüfusu için geçerli değil. İnsanları derecelendiren algoritmalara sahip, ülke çapında her şeyi gören bir sosyal kredi sistemi yoktur.
Meslektaşım Zeyi Yang’ın açıkladığı gibi, “gerçek şu ki, bu korkunç sistem yok ve merkezi hükümetin de onu inşa etmeye pek iştahı yok gibi görünüyor.”
Uygulanan şey çoğunlukla oldukça düşük teknolojidir. Zeyi, “mali kredi endüstrisini düzenleme, devlet kurumlarının birbirleriyle veri paylaşmalarını sağlama ve devlet tarafından onaylanan ahlaki değerleri teşvik etme girişimlerinin bir karışımı” diye yazıyor.
ABD hükümeti için konuyla ilgili bir rapor hazırlayan Pekin merkezli bir araştırma danışmanlığı şirketi olan Trivium China’nın ortaklarından Kendra Schaefer, Çin’de veri toplamanın insan müdahalesi olmadan otomatik yaptırımlara yol açtığı tek bir vaka bile bulamadı. South China Morning Post, Rongcheng’de insan “bilgi toplayıcılarının” kasabada dolaştığını ve bir kalem ve kağıt kullanarak insanların uygunsuz davranışlarını yazdığını buldu.
Efsane, Susam Kredisi adlı bir pilot programdan kaynaklanmaktadır. Çinli teknoloji şirketi Alibaba tarafından geliştirildi. Brussee, bunun Çinlilerin çoğunun kredi kartı olmadığı bir dönemde müşteri verilerini kullanarak insanların kredi değerliliğini değerlendirme girişimi olduğunu söylüyor. Çaba, Brussee’nin “Çin fısıltılarının oyunu” olarak tanımladığı şeyde, bir bütün olarak sosyal kredi sistemiyle birleştirildi. Ve yanlış anlaşılma kendi başına bir can aldı.
İşin ironik yanı, ABD’li ve Avrupalı politikacılar bunu otoriter rejimlerden kaynaklanan bir sorun olarak gösterirken, İnsanları derecelendiren ve cezalandıran sistemler Batı’da zaten mevcut. Kararları otomatikleştirmek için tasarlanan algoritmalar toplu olarak piyasaya sürülüyor ve insanları barınma, iş ve temel hizmetlerden mahrum bırakmak için kullanılıyor.
Örneğin Amsterdam’da yetkililer, dezavantajlı mahallelerden gelen gençleri suçlu olma olasılıklarına göre sıralamak için bir algoritma kullandılar. Amacın suçu önlemek ve daha iyi, daha hedefli destek sunmaya yardımcı olmak olduğunu iddia ediyorlar.
Ancak insan hakları grupları, gerçekte damgalama ve ayrımcılığı artırdığını iddia ediyor. Bu listeye giren gençler, polis tarafından daha fazla durduruluyor, yetkililer tarafından ev ziyaretleri yapılıyor ve okul ve sosyal hizmet uzmanları tarafından daha sıkı denetime tabi tutuluyor.
benGerçekte var olmayan distopik bir algoritmaya karşı tavır almak kolaydır. Ancak hem AB’deki hem de ABD’deki kanun yapıcılar ortak bir yapay zeka yönetişimi anlayışı oluşturmaya çalışırken, eve daha yakından bakmaları daha iyi olur. Amerikalıların, algoritmik karar vermeye karşı bazı temel korumalar sağlayacak bir federal mahremiyet yasası bile yok.
Ayrıca hükümetlerin, yetkililerin ve şirketlerin yapay zekayı yaşamlarımız hakkında kararlar almak için kullanma biçimlerine ilişkin dürüst ve kapsamlı denetimler yapmasına ciddi bir ihtiyaç var. Buldukları şeyi beğenmeyebilirler ama bu, bakmayı onlar için çok daha önemli hale getirir.
Derin Öğrenme
70.000 saat Minecraft izleyen bir bot, AI’nın bir sonraki büyük şeyinin kilidini açabilir
Araştırma şirketi OpenAI, oyunu daha önce herhangi bir AI’dan daha iyi oynamak için Minecraft oynayan insanların 70.000 saatlik videolarını izleyen bir AI oluşturdu. Bu, taklit öğrenme adı verilen ve makineleri önce insanların yaptığını izleyerek çok çeşitli görevleri yerine getirmek üzere eğitmek için kullanılabilecek güçlü yeni bir teknik için bir atılım. Ayrıca, YouTube gibi sitelerin geniş ve kullanılmayan bir eğitim verisi kaynağı olma potansiyelini de artırıyor.
Neden önemli: Taklit öğrenme, robot kollarını kontrol etmek, araba sürmek veya web sitelerinde gezinmek için yapay zekayı eğitmek için kullanılabilir. Meta’nın baş yapay zeka bilimcisi Yann LeCun gibi bazı kişiler, video izlemenin sonunda bir yapay zekayı insan düzeyinde zekayla eğitmenize yardımcı olacağını düşünüyor. Will Douglas Heaven’ın hikayesini buradan okuyun.
Bitler ve Baytlar
Meta’nın oyun oynayan yapay zekası, bir insan gibi ittifaklar kurabilir ve bozabilir
Diplomasi, yedi oyuncunun bir harita üzerinde parçaları hareket ettirerek Avrupa’nın kontrolü için rekabet ettiği popüler bir strateji oyunudur. Oyun, oyuncuların birbirleriyle konuşmasını ve diğerlerinin blöf yaptığını görmesini gerektirir. Meta’nın Cicero adlı yeni yapay zekası, kazanmak için insanları kandırmayı başardı.
Yoğun trafik etrafında rota planlama ve sözleşme müzakereleri gibi karmaşık sorunlara yardımcı olabilecek yapay zekaya doğru atılmış büyük bir adım. Ama yalan söylemeyeceğim – bir yapay zekanın insanları bu kadar başarılı bir şekilde kandırabilmesi de sinir bozucu bir düşünce. (MIT Teknoloji İncelemesi)
AI dil programlarını eğitmek için verimiz bitebilir
Her zamankinden daha büyük yapay zeka modelleri oluşturma eğilimi, onları eğitmek için daha da büyük veri kümelerine ihtiyacımız olduğu anlamına geliyor. Bir AI araştırma ve tahmin kuruluşu olan Epoch’tan araştırmacılar tarafından hazırlanan bir makaleye göre, sorun şu ki, 2026 yılına kadar uygun verilerimiz tükenebilir. Bu, AI topluluğunu mevcut kaynaklarla daha fazlasını yapmanın yollarını bulmaya sevk etmelidir. (MIT Teknoloji İncelemesi)
Kararlı Difüzyon 2.0 çıktı
Açık kaynaklı metinden görüntüye yapay zeka Stable Difüzyona,büyük yüz germeve çıktıları eskisinden çok daha şık ve gerçekçi görünüyor. hatta yapabilireller. Stable Difusion’ın gelişim hızı nefes kesici. İlk sürümü yalnızca Ağustos ayında piyasaya sürüldü. Üretken yapay zekada muhtemelen gelecek yıl daha da fazla ilerleme göreceğiz.