Kusurlu, spam içerikli, dolandırıcı, yapay zeka destekli bir internete doğru hızla ilerliyoruz

Gelecekteki riskler hakkında endişelenmenin bizi AI’nın bugün zaten neden olduğu gerçek zararlardan uzaklaştırdığını söyleyen mektubu eleştirenlere katılıyorum. Taraflı sistemler, insanların yaşamları hakkında onları yoksulluğa hapseden veya haksız tutuklamalara yol açan kararlar almak için kullanılır. İnsan içerik moderatörleri, günde yalnızca 2 dolara yapay zeka tarafından oluşturulan travmatik içerik dağlarını incelemek zorunda. Dil AI modelleri, çok büyük kirleticiler olmaya devam edecek kadar çok bilgi işlem gücü kullanır.

Ancak bugün aceleye getirilen sistemler, çok yakın bir gelecekte hep birlikte farklı türden bir tahribata neden olacak.

Yapay zeka dil modellerinin kötüye kullanılabileceği bazı yolları ortaya koyan bir hikaye yayınladım. Bazı kötü haberlerim var: Aptalca kolay, programlama becerisi gerektirmiyor ve bilinen bir düzeltme yok. Örneğin, dolaylı istem enjeksiyonu adı verilen bir saldırı türü için yapmanız gereken tek şey, bir web sitesindeki veya bir e-postadaki akıllıca hazırlanmış bir mesajda, beyaz bir metinde (beyaz bir arka plana karşı) görünmeyen bir istemi gizlemek. insan gözü. Bunu yaptıktan sonra, AI modeline istediğinizi yapmasını emredebilirsiniz.

Teknoloji şirketleri, bu son derece kusurlu modelleri, kod üreten programlardan e-postalarımızı ve takvimlerimizi gözden geçiren sanal asistanlara kadar her türden ürüne yerleştiriyor.

Bunu yaparken, bizi kusurlu, spam içerikli, dolandırıcı, yapay zeka destekli bir internete doğru hızla gönderiyorlar.

ETH Zürih’te bilgisayar bilimi doçent yardımcısı Florian Tramèr, bu dil modellerinin internetten veri çekmesine izin verilmesinin, bilgisayar korsanlarına onları “spam ve kimlik avı için süper güçlü bir motora” dönüştürme yeteneği verdiğini söylüyor. ve makine öğrenimi.

Size bunun nasıl çalıştığını anlatayım. İlk olarak, bir saldırgan, yapay zeka destekli bir sanal asistanın açtığı bir e-postadaki bir mesajda kötü amaçlı bir istemi gizler. Saldırganın istemi, sanal asistandan saldırgana kurbanın kişi listesini veya e-postalarını göndermesini veya saldırıyı alıcının kişi listesindeki her kişiye yaymasını ister. İnsanların kandırılarak bağlantılara tıklamaları gereken günümüzün spam ve dolandırıcı e-postalarının aksine, bu yeni tür saldırılar insan gözüyle görülemeyecek ve otomatik hale getirilecek.

Sanal asistanın bankacılık veya sağlık verileri gibi hassas bilgilere erişimi varsa, bu bir felaket reçetesidir. Yapay zeka destekli sanal asistanın nasıl davranacağını değiştirme yeteneği, insanların gerçek şeye yeterince yakın görünen ancak aslında bir saldırgan tarafından yerleştirilen işlemleri onaylamaları için kandırılabileceği anlamına gelir.