Bu hikaye ilk olarak AI hakkındaki haftalık bültenimiz The Algorithm'de yayınlandı. Bunun gibi hikayelerin önce gelen kutunuza gelmesi için, buradan kaydolun.

VR kulaklığı ilk kez denediğim zamanı hatırlıyorum. Bu ilk Oculus Rift'ti ve yoğun ama görsel olarak hantal bir VR inişli çıkışını deneyimledikten sonra neredeyse bayılıyordum. Ancak bu on yıl önceydi ve o zamandan beri deneyim çok daha sorunsuz ve gerçekçi hale geldi. Ancak bu etkileyici düzeydeki sürükleyicilik bir sorun olabilir: Bizi VR'deki siber saldırılara karşı özellikle savunmasız bırakıyor.

Chicago Üniversitesi'ndeki araştırmacılar tarafından keşfedilen yeni tür bir güvenlik açığı hakkında az önce bir hikaye yayınladım. Christoper Nolan filmi Inception'dan ilham alan saldırı, bilgisayar korsanlarının Meta Quest VR sistemine kötü amaçlı kod enjekte eden bir uygulama oluşturmasına olanak tanıyor. Ardından ana ekranın ve kullanıcının orijinal ekranıyla aynı görünen uygulamaların bir kopyasını başlatır. Saldırganlar içeri girdikten sonra kişinin VR başlığıyla yaptığı her şeyi görebilir, kaydedebilir ve değiştirebilir; sesi, hareketi, hareketleri, tuş vuruşlarını, gezinme etkinliğini ve hatta diğer insanlarla olan etkileşimlerini gerçek zamanlı olarak izleyebilir. Yeni korku = kilidi açıldı.

Bulgular oldukça kafa karıştırıcı çünkü araştırmacıların hiçbir şeyden şüphelenmeyen deneklerinin saldırı altında olduklarından kesinlikle haberleri yoktu. Bununla ilgili daha fazlasını buradaki hikayemde okuyabilirsiniz.

Bu VR sistemlerinin ne kadar kırılgan ve güvensiz olduğunu görmek şok edici, özellikle de Meta'nın Quest kulaklığının piyasadaki en popüler ürün olduğu ve milyonlarca insan tarafından kullanıldığı göz önüne alındığında.

Ancak belki de daha rahatsız edici olan, bunun gibi saldırıların biz fark etmeden gerçekleşebilmesi ve gerçeklik duygumuzu çarpıtabilmesidir. Washington Üniversitesi'nde bilgisayar bilimi doçenti olan ve güvenlik ve mahremiyet üzerine çalışan ancak çalışmanın bir parçası olmayan Franzi Roesner, geçmişte yapılan çalışmaların, insanların AR veya VR'deki şeylere ne kadar hızlı bir şekilde gerçekmiş gibi davranmaya başladığını gösterdiğini söylüyor. En basit sanal ortamlarda bile insanlar sanki gerçekten oradalarmış gibi nesnelerin etrafında dolaşmaya başlıyorlar.

Roesner, VR'nin yanlış bilgi, aldatma ve diğer sorunlu içerikleri steroidlere yükleme potansiyeline sahip çünkü insanların beyinlerini istismar ediyor ve onları fizyolojik ve bilinçaltı olarak aldatıyor, diyor Roesner: “Bağlantı gerçekten çok güçlü.”

VR teknolojisi nispeten yeni olduğu için insanlar onu kullanırken güvenlik kusurlarına veya tuzaklarına karşı dikkatli davranmıyorlar. Başlangıç ​​saldırısının ne kadar gizli olduğunu test etmek için Chicago Üniversitesi araştırmacıları, bunu deneyimlemeleri için 27 gönüllü VR uzmanını işe aldı. Katılımcılardan biri Chicago Üniversitesi'nde bilgisayar bilimi doktora araştırmacısı olan Jasmine Lu'ydu. 2017'den bu yana düzenli olarak VR sistemlerini kullandığını, üzerinde çalıştığını ve bu sistemler üzerinde çalıştığını söylüyor. Buna rağmen saldırı kendisini ve neredeyse diğer tüm katılımcıları şaşırttı.

Lu, “Anlayabildiğim kadarıyla, biraz daha yavaş yükleme süresi dışında herhangi bir fark yoktu; çoğu insanın bunu sistemdeki küçük aksaklıklar olarak yorumlayacağını düşünüyorum” diyor Lu.

Roesner, insanların VR kullanırken uğraşmak zorunda kalabilecekleri temel sorunlardan birinin gördüklerine güvenip güvenemeyecekleri olduğunu söylüyor.

Lu da aynı fikirde. Çevrimiçi tarayıcılarda neyin meşru görünüp neyin görünmediğini tanımak üzere eğitildiğimizi, ancak VR'de bunu yapamadığımızı söylüyor. İnsanlar bir saldırının neye benzediğini bilmiyor.

Bu, üretken yapay zekanın yükselişiyle ve hatta metin, ses ve videoyla ilgili olarak gördüğümüz büyüyen bir sorunla ilgilidir: Gerçek içeriği yapay zeka tarafından oluşturulan içerikten ayırmak herkesin bildiği gibi zordur. Başlangıç ​​saldırısı, neyin gerçek olup neyin olmadığını bilmenin giderek zorlaştığı bir dünyada VR'yi başka bir boyut olarak düşünmemiz gerektiğini gösteriyor.

Bu sistemleri daha fazla kişi kullandıkça ve pazara daha fazla ürün girdikçe, bunları daha güvenli ve güvenilir hale getirmenin yollarını geliştirme sorumluluğu teknoloji sektörüne düşüyor.

Güzel haberler? Roesner, VR teknolojilerinin ticari olarak mevcut olmasına rağmen çok yaygın olarak kullanılmadığını söylüyor. Artık savunmayı güçlendirmeye başlamanın zamanı geldi.

---

Şimdi Algoritmanın geri kalanını okuyun

Derin Öğrenme

Bir OpenAI yan ürünü, robotların insanlar gibi görevleri öğrenmesine yardımcı olan bir yapay zeka modeli oluşturdu

2021 yazında OpenAI, robotları yapay zekayı kullanarak nasıl hareket edecekleri ve akıl yürütecekleri konusunda eğitmek için gerekli veri eksikliği nedeniyle ilerlemenin engellendiğini duyurarak robot ekibini sessizce kapattı. OpenAI'nin ilk araştırma bilim adamlarından üçü, 2017'de başlattıkları Covariant adlı girişimin bu sorunu çözdüğünü ve büyük dil modellerinin muhakeme becerilerini gelişmiş bir robotun fiziksel becerisiyle birleştiren bir sistemi ortaya çıkardığını söylüyor.

Çok modlu yönlendirme:RFM-1 adı verilen yeni model, Covariant'ın Crate & Barrel ve Bonprix gibi müşterilerin dünya çapındaki depolarda kullandığı küçük ürün toplama robotları filosundan ve ayrıca internetten alınan kelimeler ve videolardan toplanan yıllar süren verilerle eğitildi. Kullanıcılar modeli beş farklı giriş türü kullanarak yönlendirebilir: metin, resimler, video, robot talimatları ve ölçümler. Şirket, sistemin gerçek dünyada konuşlandırıldığında daha yetenekli ve verimli olmasını umuyor. James O'Donnell'dan daha fazlasını buradan okuyun.

Bitler ve Baytlar

Artık hikayelerinizi çizgi romanlara dönüştürmek için üretken yapay zekayı kullanabilirsiniz
Lore Machine, birkaç farklı üretken modeli bir düğmeye basılarak kontrol edilen kullanımı kolay bir pakette bir araya getirerek tek tıklamayla yapay zekanın gelişini müjdeliyor. (MIT Teknoloji İncelemesi)

Eski bir Google mühendisi, Çinli şirketlerin AI ticari sırlarını çalmakla suçlandı
Her zamankinden daha güçlü yapay zeka sistemleri geliştirme yarışı kirleniyor. Çinli bir mühendis, Çinli şirketlerde çalışırken Google'ın süper bilgi işlem veri merkezleriyle ilgili gizli dosyaları kişisel Google Cloud hesabına indirdi. (ABD Adalet Bakanlığı)

OpenAI destanında daha da fazla dram yaşandı
Bu hikaye gerçekten vermeye devam eden bir hediyedir. OpenAI, Elon Musk'a ve şirketin dünya için iyilik yapma yönündeki orijinal misyonuna ihanet ettiğini iddia eden davasına, Musk'ın OpenAI'yi de ticarileştirmeye istekli olduğunu gösteren e-postalar yayınlayarak karşılık verdi. Bu arada Sam Altman, geçici olarak görevden alınmasının ardından OpenAI yönetim kuruluna geri döndü ve baş teknoloji sorumlusu Mira Murati'nin, Altman'a karşı yapılan darbede başlangıçta bildirilenden daha büyük bir rol oynadığı ortaya çıktı.

Microsoft'tan bir ihbarcı, şirketin yapay zeka aracının şiddet içeren ve cinsel içerikli görüntüler oluşturduğu ve telif haklarını göz ardı ettiği konusunda uyardı
Microsoft'ta çalışan mühendis Shane Jones, şirketin Yardımcı Pilot Tasarımcısı ile yaptığı testlerin kendisine endişe verici ve rahatsız edici sonuçlar verdiğini söylüyor. Şirketin endişelerini kabul ettiğini ancak ürünü piyasadan kaldırmadığını söyledi. Jones daha sonra bu endişeleri Federal Ticaret Komisyonu'na açıklayan bir mektup gönderdi ve Microsoft o zamandan beri toksik içerik oluşturan bazı terimleri engellemeye başladı. (CNBC)

Silikon Vadisi akademisyenleri yapay zeka araştırmalarının dışında fiyatlandırıyor
Yapay zeka araştırmaları göz yaşartıcı derecede pahalı ve Big Tech, devasa maaşları ve bilgi işlem kaynaklarıyla akademide üst düzey yetenekleri tüketiyor. Bunun teknoloji üzerinde ciddi etkileri var ve bilim yerine ticari kullanıma odaklanılmasına neden oluyor. (Washington post)

Source link