İndirme: Ölüm nedir ve jailbreak yapan üretken yapay zeka
Bu, İndirme’nin bugünkü sürümüdür, teknoloji dünyasında olup bitenlerin günlük dozunu sunan hafta içi bültenimiz.
Ölüm nedir?
Nasıl ki doğum belgeleri dünyaya girdiğimiz zamanı belirtiyorsa, ölüm belgeleri de oradan çıktığımız anı belirtir. Bu uygulama, yaşam ve ölümle ilgili geleneksel kavramları ikili olarak yansıtıyor. Aniden kapanan bir ışık gibi biz yok olana kadar buradayız.
Ancak bu ölüm fikri yaygın olsa da, bunun aslında biyolojiye dayanmayan, modası geçmiş bir sosyal yapı olduğuna dair kanıtlar artıyor. Ölmek aslında bir süreçtir; birinin geri gelemeyeceği eşiği belirleyen net bir noktanın olmadığı bir süreçtir.
Bilim insanları ve pek çok doktor, ölümün bu daha incelikli anlayışını zaten benimsemiş durumda. Ve toplum bu gelişmeye yetiştikçe bunun yaşam üzerindeki etkileri derin olabilir. Hikayenin tamamını okuyun.
—Rachel Nuwer
‘Ölüm nedir?’ mini serimizin bir parçası En Büyük Sorularteknolojinin varoluşumuzun en derin, en akıl almaz gizemlerinden bazılarının araştırılmasına nasıl yardımcı olduğunu araştırıyor.
Devamını oku:
+ Evren neden bu kadar karmaşık ve güzel? Bazı nedenlerden dolayı evren yıldızlarla, galaksilerle ve yaşamla doludur. Ama bu şekilde olmak zorunda değildi. Hikayenin tamamını okuyun.
+ Hayat nasıl başladı? Yapay zeka, kimyagerlerin yaşamın kökeni hakkındaki gizemleri açığa çıkarmasına ve diğer dünyalardaki işaretlerini tespit etmesine yardımcı oluyor. Hikayenin tamamını okuyun.
+ Evrende yalnız mıyız? Bilim insanları makine öğrenimi modelleri üzerinde eğitim alıyor ve diğer dünyalardaki yaşamı avlamak için araçlar tasarlıyor. Hikayenin tamamını okuyun.
+ Başka birinin zihnini gerçekten anlamak mümkün mü? Dünyayı nasıl düşündüğümüz, hissettiğimiz ve deneyimlediğimiz bizim dışımızdaki herkes için bir gizemdir. Ancak teknoloji başkalarının zihinlerini anlamamıza yardımcı olmaya başlıyor olabilir. Hikayenin tamamını okuyun.
Metinden görüntüye yapay zeka modelleri, rahatsız edici görüntüler oluşturacak şekilde kandırılabilir
Ne oldu: Popüler metinden görüntüye yapay zeka modellerinin, güvenlik filtrelerini göz ardı etmesi ve rahatsız edici görüntüler oluşturması istenebilir. Bir grup araştırmacı, politikalarını göz ardı etmek ve çıplak insanların, parçalanmış bedenlerin ve diğer şiddet ve cinsel senaryoların görüntülerini oluşturmak için hem Stability AI’nin Stabil Difüzyonunu hem de OpenAI’nin DALL-E 2’nin metinden resme modellerini almayı başardı.
Bunu nasıl yaptılar: “SneakyPrompt” olarak adlandırılan bu yeni jailbreak yöntemi, bize karmaşık saçmalık gibi görünen ancak yapay zeka modellerinin rahatsız edici görüntülere yönelik gizli istekler olarak tanımayı öğrendiği yazılı istemler oluşturmak için takviyeli öğrenmeyi kullanıyor. Temel olarak metinden resme yapay zeka modellerinin çalışma biçimini onlara karşı çevirerek çalışır.
Neden önemlidir: Uzmanlar, araştırmanın mevcut yapay zeka güvenlik filtrelerinin savunmasızlığını vurguladığını ve yapay zeka topluluğunun genel güvenlik önlemlerini güçlendirmesi için bir uyandırma çağrısı görevi görmesi gerektiğini söylüyor. Ayrıca bu modellerin bu tür içerik üretmesini engellemenin ne kadar zor olduğunu da gösteriyor; çünkü bu, üzerinde eğitim aldıkları geniş veri hazinesinin içinde yer alıyor. Hikayenin tamamını okuyun.
—Rhiannon Williams
Acı gerçek. Ağrı kesiciler sanal gerçekliktir.
Pek çok çocuk ve yetişkin iğnelerden nefret ediyor. Ancak yakın zamanda FDA onayı alan çocuklara yönelik bir cihaz olan Smileyscope gibi sanal gerçeklik cihazları bir fark yaratmaya yardımcı olabilir. Kullanıcıyı bir su altı macerasına göndererek kan alma veya IV yerleştirme acısını azaltmaya yardımcı olur. Bu sulu derin deniz gerçekliğinin içinde, alkollü mendilin dokunuşu kolun üzerinde serin dalgalara dönüşüyor. İğnenin bir tutamı hafif bir balık ısırığı haline gelir.
Ancak Smileyscope’un nasıl çalıştığı tam olarak belli değil. Dikkat dağıtmaktan daha karmaşıktır ve tüm uyaranlar eşit derecede etkili değildir. Ancak sanal gerçekliğin vaadi, şirketlerin çok daha zorlu bir soruna çözüm bulmak için cihazlar üzerinde çalışmasına yol açtı: kronik ağrı. Hikayenin tamamını okuyun.
—Cassandra Willyard
Bu hikaye haftalık sağlık ve biyoteknoloji bültenimiz The Checkup’tan alınmıştır. Üye olmak her perşembe gelen kutunuza almak için.
Mutlaka okunması gerekenler
Teknolojiyle ilgili günümüzün en eğlenceli/önemli/korkutucu/büyüleyici hikayelerini bulmak için interneti taradım.
1 Elon Musk, X’te Yahudi karşıtı bir gönderiyi onayladı
Yöneticilerini hasarı bastırmak için yarışırken bırakıyor. (NYT $)
+ IBM, Yahudi karşıtı gönderilerin yanında göründükten sonra reklamlarını X’ten çekti. (WP $)
+ Musk’un yorumları şaşırtıcı olmayan bir şekilde aşırı sağda yankı buluyor. (Anakart)
2 Usame bin Ladin’in Amerika’ya mektubu sosyal medyada patladı
Amerikalı kullanıcıların 11 Eylül manifestosunun bazı kısımlarını onaylayan videoları viral hale geldi. (WP $)
+ TikTok klipleri kaldırmak için yoğun bir şekilde çalıştığını söylüyor. (NYT $)
+ Guardian gazetesi mektubun kendi versiyonunu sitesinden sildi. (404 Medya)
3 SpaceX dev roket fırlatmasını erteledi
Değiştirilmesi gereken bir bileşen lansmanı Cumartesi gününe erteledi. (Ars Technica)
4 İlk CRISPR ilacı İngiltere’de onaylandı
Casgevy adı verilen tedavi, orak hücre hastalığı olan kişilerin hücrelerini tekrar aşılamadan önce düzenliyor.
+ Terapinin hastalığı etkili bir şekilde tedavi etmesi dikkat çekicidir. (Yeni Bilim Adamı $)+ İşte CRISPR hayatları nasıl değiştiriyor. (MIT Teknoloji İncelemesi)
5 Veri komisyoncusu LexisNexis, gözetim araçlarını ABD sınır kuvvetlerine sattı
Diğerlerinin yanı sıra sosyal medya gözetimi, yüz tanıma ve coğrafi konum verileri. (Kesmek)
6 OpenAI, yapay zeka endüstrisini hızla salladı
Ve start-up’ın kurucuları yolda ölümden kaçınmak için mücadele ediyor. (İçeriden $)
+ Google, OpenAI’ye meydan okuyan Gemini sistemini piyasaya sürmeyi erteledi. (Bilgi $)
+ OpenAI’nin baş bilim adamının zihninin içi. (MIT Teknoloji İncelemesi)
7 Evlerimizi iklime dayanıklı hale getirmek bir kabus
Aşırı hava olayları artıyor ve evlerimiz savunmasız durumda. (Sınır)
+ Orman yangınına dayanıklı evler inşa etme arayışı. (MIT Teknoloji İncelemesi)
8 Vietnamlı göçmen haberleri için YouTube’a güveniyor
Bu haberin güvenilir kaynaklardan gelip gelmediği her zaman net olmasa bile. (İşaretleme)
9 Reddit artık ürün incelemeleri için en iyi yer
Sahte incelemeler ve SEO yem listeleri yararlı değildir. Gerçek kişilerden gelen dürüst değerlendirmeler. (Vox)
10 Yalanabilir TV’nin mucidiyle tanışın 
Ağ yalıyor ve sakinleşiyor musun? (Gardiyan)
Günün Sözü
“Uçuyoruz, bazı şeyleri kırıyoruz, bazı şeyler öğreniyoruz ve sonra geri dönüp tekrar uçuyoruz.”
—SpaceX’in yapım ve uçuş güvenilirliğinden sorumlu başkan yardımcısı William Gerstenmaier, şirketin Bloomberg’e roket fırlatılmasındaki kaçınılmaz aksaklıklara karşı yaklaşımını açıklıyor.
Büyük hikaye
Sorumlu yapay zekanın tükenmişlik sorunu var
Ekim 2022
Margaret Mitchell, ara vermesi gerektiğini fark edene kadar iki yıldır Google’da çalışıyordu. Sorunu ancak bir terapistle konuştuktan sonra anladı: Tükenmişti.
Şu anda yapay zeka girişimi Hugging Face’te baş etik bilimcisi olarak çalışan Mitchell, deneyiminde yalnız değil. Sorumlu yapay zeka ekiplerinde tükenmişlik giderek daha yaygın hale geliyor.
MIT Technology Review’un görüştüğü tüm uygulayıcılar çalışmaları hakkında coşkuyla konuştular: Bu çalışmalar tutku, aciliyet duygusu ve gerçek sorunlara çözüm üretmenin tatmini ile besleniyor. Ancak bu misyon duygusu, doğru destek olmadan bunaltıcı olabilir. Hikayenin tamamını okuyun.
—Melissa Heikkilä
Hala güzel şeylere sahip olabiliriz
Bu tuhaf zamanlarda rahatlık, eğlence ve dikkat dağıtma yeri. (Herhangi bir fikrin var mı? Bana yaz veya bana tweet at.)
+ Bu çiftin nasıl tanıştığına dair sevimli hikaye içinizi ısıtacak. 
+ Uzayda seks neden bu kadar zor bir iş?
+ Bırak gitsin, neden Dondurulmuşmirası ölmeyi reddediyor.
+ Neden bu hafta sonu kendinize bir Beyaz Toreador tekila kokteyli ikram etmiyorsunuz?
+ Tekinsiz Vadi makyajı açıkçası kabus gibi.