Bu yeni veri zehirleme aracı, sanatçıların üretken yapay zekaya karşı savaşmalarını sağlıyor

Zhao, insanların veri zehirlenmesi tekniğini kötü amaçlı kullanımlar için kötüye kullanma riskinin bulunduğunu kabul ediyor. Ancak saldırganların, milyarlarca veri örneği üzerinde eğitildikleri için daha büyük, daha güçlü modellere gerçek hasar verebilmek için binlerce zehirli örneğe ihtiyaç duyacaklarını söylüyor.

“Bu saldırılara karşı henüz sağlam savunmalar bilmiyoruz. Moderne yönelik zehirlenme saldırılarını henüz görmedik. [machine learning] Yapay zeka modeli güvenliği üzerine çalışan ve araştırmaya dahil olmayan Cornell Üniversitesi profesörü Vitaly Shmatikov, “Vahşi modeller mevcut, ancak bu sadece an meselesi olabilir” diyor. Shmatikov, “Artık savunma üzerinde çalışmanın zamanı geldi” diye ekliyor.

Yapay zeka modellerinde veri gizliliği ve sağlamlığını araştıran ve çalışmaya dahil olmayan Waterloo Üniversitesi’nde yardımcı doçent Gautam Kamath, çalışmanın “harika” olduğunu söylüyor.

Araştırma, güvenlik açıklarının “bu yeni modeller için sihirli bir şekilde ortadan kalkmadığını, aslında yalnızca daha ciddi hale geldiğini” gösteriyor Kamath. “Bu modeller daha güçlü hale geldikçe ve insanlar onlara daha fazla güvendikçe bu özellikle doğrudur, çünkü riskler yalnızca zamanla artar.”

Güçlü bir caydırıcı

Derin öğrenme sistemlerinin güvenliği üzerine çalışmış ve bu çalışmaya dahil olmayan Columbia Üniversitesi’nden bilgisayar bilimi profesörü Junfeng Yang, Nightshade’in yapay zeka şirketlerinin sanatçıların haklarına daha fazla saygı duymasını sağlaması durumunda büyük bir etki yaratabileceğini söylüyor. , telif ücreti ödemeye daha istekli olarak.

Stability AI ve OpenAI gibi üretken metinden görüntüye modeller geliştiren yapay zeka şirketleri, sanatçılara, modellerin gelecekteki sürümlerini eğitmek için görsellerinin kullanılmasını devre dışı bırakma olanağı sunmayı teklif etti. Ancak sanatçılar bunun yeterli olmadığını söylüyor. Glaze’i kullanan illüstratör ve sanatçı Eva Toorenent, devre dışı kalma politikalarının sanatçıların engelleri aşmasını ve yine de tüm gücü teknoloji şirketlerine bırakmasını gerektirdiğini söylüyor.

Toorenent, Nightshade’in statükoyu değiştireceğini umuyor.

“Yapacak [AI companies] İki kez düşünün, çünkü bizim rızamız olmadan çalışmalarımızı alarak tüm modellerini yok etme olasılıkları var” diyor.

Başka bir sanatçı olan Autumn Beverly, Nightshade ve Glaze gibi araçların, çalışmalarını tekrar çevrimiçi yayınlama konusunda kendisine güven verdiğini söylüyor. Daha önce resmin kendi rızası olmadan popüler LAION resim veritabanına kazındığını keşfettikten sonra internetten kaldırmıştı.

“Sanatçıların kendi çalışmaları için gücü geri kazanmalarına yardımcı olabilecek bir araca sahip olduğumuz için gerçekten minnettarım” diyor.