Kontrolden çıkmış yapay zeka gibi bir sorunu nasıl çözersiniz?
Geçen hafta Google, üretken yapay zekaya her şeyi dahil ettiğini açıkladı. Şirket, yıllık I/O konferansında Google Dokümanlar’dan kodlama ve çevrimiçi aramaya kadar neredeyse tüm ürünlerine yapay zeka araçları yerleştirmeyi planladığını duyurdu. (Benim hikayemi buradan okuyun.)
Google’ın duyurusu büyük bir anlaşma. Milyarlarca insan artık metin oluşturmaktan sorguları yanıtlamaya, kod yazmaya ve hata ayıklamaya kadar her türlü görevi yapmalarına yardımcı olacak güçlü, son teknoloji yapay zeka modellerine erişebilecek. MIT Technology Review’un baş editörü Mat Honan’ın G/Ç analizinde yazdığı gibi, AI’nın artık Google’ın temel ürünü olduğu açıktır.
Google’ın yaklaşımı, bu yeni işlevleri kademeli olarak ürünlerine dahil etmektir.Ancak işlerin ters gitmeye başlaması büyük olasılıkla an meselesi olacaktır. Şirket, bu AI modelleriyle ilgili ortak sorunların hiçbirini çözmedi. Hala bir şeyler uyduruyorlar. Kendi kurallarını çiğnemek için manipüle edilmeleri hala kolaydır. Hala saldırılara karşı savunmasızlar. Onların dezenformasyon, dolandırıcılık ve istenmeyen e-posta araçları olarak kullanılmalarını engelleyen çok az şey var.
Bu tür yapay zeka araçları nispeten yeni olduğundan, hâlâ büyük ölçüde düzenlemeden bağımsız bir bölgede çalışıyorlar. Ama bu sürdürülebilir gelmiyor. ChatGPT sonrası coşku etkisini yitirdikçe ve düzenleyiciler teknoloji hakkında zor sorular sormaya başladıkça düzenleme çağrıları daha da artıyor.
ABD düzenleyicileri, güçlü AI araçlarını yönetmenin bir yolunu bulmaya çalışıyor.OpenAI CEO’su Sam Altman bu hafta ABD Senatosunda ifade verecek (önceki gece politikacılarla sıcacık bir “eğitici” yemekten sonra). Duruşma, Başkan Yardımcısı Kamala Harris ile Alphabet, Microsoft, OpenAI ve Anthropic CEO’ları arasında geçen hafta yapılan bir toplantının ardından geldi.
Harris yaptığı açıklamada, şirketlerin ürünlerinin güvenli olmasını sağlamak için “etik, ahlaki ve yasal sorumlulukları” olduğunu söyledi. Çoğunluk lideri olan New York Senatörü Chuck Schumer, AI’yı düzenlemek için kuralları uygulamak için yeni bir kurum içerebilecek bir yasa önerdi.
“Herkes bir şeyler yapıyormuş gibi görünmek ister. Stanford İnsan Merkezli Yapay Zeka Enstitüsü’nde gizlilik ve veri politikası görevlisi olan Jennifer King, “Bütün bunların nereye gittiği konusunda çok fazla sosyal kaygı var” diyor.
Yeni bir AI tasarısı için iki partiden destek almak zor olacak, diyor King: “Ne ölçüde olacağına bağlı olacak. [generative AI] toplumsal düzeyde gerçek bir tehdit olarak görülüyor.” Ancak Federal Ticaret Komisyonu başkanı Lina Khan, “silahlar parlıyor” diye ekliyor. Khan, bu ayın başlarında, geçmişte teknoloji sektöründe çok gevşek olmasından kaynaklanan hataları önlemek için şimdi yapay zeka düzenlemesi çağrısında bulunan bir köşe yazısı yazdı. ABD’de düzenleyicilerin, antitröst ve ticari uygulama yasaları gibi yapay zekayı düzenlemek için zaten araç setlerinde bulunan mevcut yasaları kullanma olasılıklarının daha yüksek olduğunun sinyalini verdi.
Bu arada, Avrupa’da milletvekilleri AI Yasası üzerinde nihai bir anlaşmaya varmaya yaklaşıyorlar.Geçen hafta Avrupa Parlamentosu üyeleri, halka açık yerlerde yüz tanıma teknolojisinin yasaklanması çağrısında bulunan bir yönetmelik taslağını imzaladılar. Ayrıca tahmine dayalı polislik, duygu tanıma ve biyometrik verilerin çevrimiçi olarak gelişigüzel kazınmasını da yasaklar.
AB, üretici yapay zekayı da kısıtlamak için daha fazla kural oluşturmaya hazırlanıyor ve parlamento, büyük yapay zeka modelleri oluşturan şirketlerin daha şeffaf olmasını istiyor. Bu önlemler, yapay zeka tarafından oluşturulan içeriği etiketlemeyi, modeli eğitmek için kullanılan telif hakkıyla korunan verilerin özetlerini yayınlamayı ve modellerin yasa dışı içerik üretmesini önleyecek korumalar oluşturmayı içerir.
Ancak işin püf noktası şu: AB, üretici yapay zekaya ilişkin kuralları uygulamaktan hâlâ çok uzakta ve Yapay Zeka Yasası’nın önerilen pek çok unsuru son halini almayacak. Parlamento, Avrupa Komisyonu ve AB üyesi ülkeler arasında hâlâ çetin müzakereler sürüyor. AI Yasasının yürürlükte olduğunu görmemiz yıllar alacak.
Düzenleyiciler birlikte harekete geçmekte zorlanırken, teknoloji dünyasının önde gelen isimleri Overton penceresini zorlamaya başlıyor.Geçen hafta bir etkinlikte konuşan Microsoft’un baş ekonomisti Michael Schwarz, yapay zekayı düzenlemeden önce “anlamlı zarar” görene kadar beklememiz gerektiğini söyledi. Bunu, düzinelerce insanın kazalarda hayatını kaybetmesinden sonra çıkarılan sürücü belgeleriyle karşılaştırdı. Schwarz, “Asıl sorunun ne olduğunu görmemiz için en azından biraz zarar olmalı” dedi.
Bu açıklama çok çirkin. AI’nın neden olduğu zarar yıllardır belgelenmiştir. Önyargı ve ayrımcılık, yapay zeka tarafından üretilen sahte haberler ve dolandırıcılık oldu. Diğer AI sistemleri, masum insanların tutuklanmasına, insanların yoksulluğa hapsolmasına ve on binlerce insanın haksız yere dolandırıcılıkla suçlanmasına yol açtı. Google’ınki gibi duyurular sayesinde üretken yapay zeka toplumumuza daha derinden entegre olduğundan, bu zararların katlanarak artması muhtemeldir.
Kendimize sormamız gereken soru şudur: Ne kadar zarar görmeye razıyız? Yeterince gördüğümüzü söyleyebilirim.
Derin Öğrenme
Açık kaynaklı AI patlaması, Big Tech’in bildirileri üzerine kuruludur. Ne kadar sürecek?
Yeni açık kaynaklı büyük dil modelleri (Google’ın Bard veya OpenAI’nin ChatGPT’sine araştırmacıların ve uygulama geliştiricilerin üzerinde çalışabileceği, geliştirebileceği ve değiştirebileceği alternatifler) bir piñatadan şeker gibi düşüyor. Bunlar, büyük firmalar tarafından yaratılan, sınıfının en iyisi yapay zeka modellerinin performans açısından onlarla (neredeyse) eşleşen daha küçük, daha ucuz sürümleridir ve ücretsiz olarak paylaşılırlar.
Yapay zekanın nasıl yapıldığı ve kullanıldığı konusunda gelecek bir yol ayrımında. Bir yandan, bu modellere daha fazla erişim, yeniliğin yönlendirilmesine yardımcı oldu. Aynı zamanda kusurlarını yakalamalarına da yardımcı olabilir. Ancak bu açık kaynak patlaması istikrarsız. Açık kaynaklı sürümlerin çoğu, hâlâ bol cepli büyük firmaların çıkardığı dev modellerin omuzlarında duruyor. OpenAI ve Meta, dükkanı kapatmaya karar verirlerse, hızla gelişen bir şehir durgun bir su haline gelebilir. Will Douglas Heaven’dan daha fazlasını okuyun.
Bitler ve Baytlar
Amazon, ChatGPT benzeri özelliklere sahip gizli bir ev robotu üzerinde çalışıyor
Sızan belgeler, Astro robotunun gördüklerini ve anladıklarını hatırlayabilen, insanların robota sorular sormasına ve komutlar vermesine izin veren güncellenmiş bir versiyonu için planları gösteriyor. Ancak Amazon’un bu modellerin insanların evlerinde güvenli bir şekilde konuşlandırılmasından önce birçok sorunu çözmesi gerekiyor. (İçeriden)
Stability AI, metinden animasyona bir model yayınladı
Açık kaynaklı metinden görüntüye modeli Stable Diffusion’ı yaratan şirket, insanların metin, görüntü ve video istemlerini kullanarak animasyonlar oluşturmasına olanak tanıyan başka bir araç başlattı. Telif hakkı sorunları bir yana, bu araçlar kreatifler için güçlü araçlar haline gelebilir ve açık kaynak olmaları onları daha fazla insan için erişilebilir kılar. Aynı zamanda, kaçınılmaz bir sonraki adım olan açık kaynaklı metinden videoya dönüştürmeden önceki geçici bir boşluktur. (Kararlılık AI)
Yapay zeka kültür savaşlarının içine çekiliyor; Hollywood yazarlarının grevine bakın
Amerika Yazarlar Birliği ile Hollywood stüdyoları arasındaki tartışmalardan biri, insanların film ve televizyon senaryoları yazmak için AI kullanmasına izin verilip verilmeyeceğidir. Yorucu bir öngörülebilirlikle, ABD kültür-savaşı tugayı çatışmaya girdi. Çevrimiçi troller, çarpıcı yazarlara neşeyle yapay zekanın onların yerini alacağını söylüyor. (New York Dergisi)
İzleyin: Yapay zeka tarafından oluşturulan bir fragmanYüzüklerin Efendisi… ama onu Wes Anderson yap
Bu sevimliydi.