Bir lisenin deepfake porno skandalı ABD’li milletvekillerini harekete geçiriyor

Kongre üyelerinin deepfake pornografiyi engelleme çabaları tamamen yeni değil. 2019 ve 2021’de Temsilci Yvette Clarke, deepfake yaratıcılarının içeriklerine filigran eklemesini gerektiren DEEPFAKES Sorumluluk Yasasını uygulamaya koydu. Ve Aralık 2022’de, şu anda Francesca ile yakın işbirliği içinde çalışan Temsilci Morelle, Samimi Görüntülerin Derin Sahtekarlıklarını Önleme Yasasını uygulamaya koydu. Tasarısı, imajı kullanılan kişinin rızası olmadan pornografik deepfake’lerin oluşturulmasını ve dağıtılmasını suç saymaya odaklanıyor. Her iki partinin de desteği olmayan her iki çaba da geçmişte duraksadı.

Ancak Berkeley’deki Kaliforniya Üniversitesi’nden profesör Hany Farid, son zamanlarda sorunun “dönüm noktasına” ulaştığını söylüyor çünkü yapay zeka çok daha karmaşık hale geldi ve zarar potansiyeli çok daha ciddi hale geldi. Farid, “Tehdit vektörü önemli ölçüde değişti” diyor. Beş yıl önce ikna edici bir deepfake oluşturmak için yüzlerce görselin gerekli olduğunu söylüyor; bu da, hedef alınma riski en yüksek olanların, çok sayıda kamuya açık fotoğrafı olan ünlüler ve ünlü kişiler olduğu anlamına geliyordu. Ancak artık deepfake’ler yalnızca tek bir görüntüyle oluşturulabiliyor.

Farid şöyle diyor: “Liseli çocuklara, onlara tüm nükleer silahların anasını verdik; [a single image] kim isterlerse. Ve elbette bunu yapıyorlar.”

Her ikisi de New York’tan Demokrat olan Clarke ve Morelle, bu yıl yasa tasarılarını yeniden sundular. Morelle’nin şu anda her iki partiden de 18 ortak sponsoru var; bunlardan dördü Francesca’nın dahil olduğu olayın gün yüzüne çıkmasından sonra katıldı; bu da tasarının geçmesi için gerçek bir yasama ivmesi olabileceğine işaret ediyor. Daha sonra bu hafta, Morelle’in tasarısının ortak sponsorlarından biri olan Temsilci Kean, kısmen Francesca’nın çağrılarına yanıt olarak, yapay zeka etiketleme çabalarını ilerletmeyi amaçlayan ilgili bir öneri yayınladı.