Kongreyi harekete geçiren 15 yaşındaki deepfake kurbanıyla tanışın
Bu makale, MIT Technology Review’un güç, politika ve Silikon Vadisi hakkındaki haftalık teknoloji politikası bülteni The Technocrat’tan alınmıştır. Her Cuma gelen kutunuza almak için, onu kaydettire.
Korkunç bir olaydan sonra yapay zeka politikası konularında mücadeleye dahil olan ilham verici bir genç kadın ve annesi hakkında bir hikaye paylaşmak istiyorum. Çoğu zaman, yeni teknolojiler yeterince dikkat çekmeden veya değişim yaratmadan kadınlara ve kız çocuklarına orantısız bir şekilde zarar veriyor. Yakın zamanda yaşanan bir hikayeyi aktarırken, bu ailenin bunu düzeltme çabasından çok etkilendim.
Ekim ayında Francesca Mani’nin, New Jersey’deki Westfield Lisesi’nde deepfake pornografi kurbanı olan 30’dan fazla kızdan biri olduğu bildirildi. Okuldaki oğlanlar, Francesca ve sınıf arkadaşlarının fotoğraflarını çekmiş ve rızaları olmadan, onları yapay zekayla manipüle ederek müstehcen görüntüler oluşturmuşlardı. (Westfield Lisesi bir e-postada “öğrencileri ilgilendiren konuların gizli olduğunu” söyledi ancak 30 öğrenciden “çok daha azının” etkilendiğini iddia etti.)
Bu uygulama aslında şaşırtıcı derecede sıradan, ancak bu tür hikayeleri nadiren duyuyoruz; en azından kısmen, çünkü cinsel taciz mağdurlarının çoğu, çok anlaşılır bir şekilde, bu kadar özel olaylar hakkında kamuya açık olarak konuşmak istemiyor. Ancak 15 yaşındaki Francesca, kendi deyimiyle “şok edici” olan ihlali öğrendikten sadece bir gün sonra konuşmaya başladı ve milletvekillerini daha geniş sorun hakkında bir şeyler yapmaya çağırdı. Bu sabah yayınlanan bir hikayede bahsettiğim eyalet ve federal mevzuat önerilerinin ardında, çabaları şimdiden yeni bir ivme ile karşılığını almaya başlıyor. Buna, New Jersey eyalet senatörleri Jon Bramnick ve Kristin Corrado’nun ortak sponsorluğunda, derin sahte pornoların rıza dışı oluşturulması ve paylaşılması için hukuki ve cezai yaptırımlar uygulayacak bir yasa tasarısı da dahil.
Francesca ve annesi Dorota, aktivizmlerinin özellikle değişim yaratma becerisine sahip olmayan kadınları ve kız çocuklarını desteklemeyi amaçladığını söylüyor. Bu deneyimin nasıl bir şey olduğunu daha derinlemesine anlamak için bu hafta başında Manis’le konuştum ve uzun ve net olması açısından düzenlenmiş olan konuşmamın bazı kısımlarını onlarla paylaşmak istiyorum.
Başınıza gelenleri ve nasıl öğrendiğinizi bana anlatabilir misiniz?
– Francesca: 20 Ekim’de her kız endişeliydi. Ortalıkta dedikodular dolaşıyordu, insanlar endişeliydi ve bütün kızlar kendilerinin yapay zeka kurbanlarından biri olacaklarını düşünüyordu. Ve günün sonunda yönetim tarafından benim birçok yapay zeka deepfake kurbanından biri olduğum doğrulandı. Tabii ki şok oldum çünkü ben ve diğer kızlar sınıf arkadaşlarımız tarafından ihanete uğradık. Kendi sınıf arkadaşlarımızın bize bunu yapacağını bilmiyorduk.
Deneyimleriniz hakkında tüm bu insanlarla konuşarak ve konuşarak yaptığınız şey gerçekten cesurca. Harekete geçmek istemenize ne sebep oldu?
– Francesca: Kurbanlardan biri olana kadar yapay zeka teknolojisinin ne kadar karmaşık ve korkutucu olduğunu gerçekten bilmiyordum. Bu, teknoloji açısından kendi kendine eğitimin önemini anlamamı sağladı çünkü yapay zeka burada kalacak ve kendimize ve başkalarına zarar vermeden onunla nasıl yaşayacağımızı öğrenmemiz gerekiyor. İşte bu yüzden aslında bizi eğitmeye ve yapay zekadan korumaya yardımcı olacak Yapay Zeka Yardımı adlı bir web sitesi oluşturdum. Ve bu araç, yapay zeka mağdurlarının kendi haklarını savunmalarına yardımcı olacak kaynaklar sağlayacak. Ayrıca bizi (çocukları ve kadınları) derin sahtekarlıklardan koruyacak eyalet ve federal yasalarımızın olduğundan emin olmak istiyorum ve bu zaten uygulamaya konuyor.
Konu yapay zeka olduğunda diğer kızların ve kadınların riskler hakkında bilmesi gerektiğini düşündüğünüz önemli şeyler nelerdir?
– Francesca: Bunun herkesin başına, herkes tarafından gelebileceğini bilmek önemlidir; mesela sınıf arkadaşlarınız olabilir. Bana da öyle oldu. İnsanlar Instagram’da veya herhangi bir sosyal medyada bir şeyler paylaşmaya başladıklarında bunun sizin de başınıza gelebileceğini anlamalıdır. İmajınızı koruyun, hesabınızı gizli yapın ve herkese açık bir hesap yerine tanıdığınız kişiler gibi yalnızca belirli takipçilerin olmasını sağlayın.
Bu konuyla ilgili milletvekilleriyle yaptığınız görüşmeleri anlatır mısınız?
– Francesca: Senatör Bramnick’le konuştum – kendisi aslında Westfield’lı – eyaletimizi savunmama yardım etmesi ve [make] yeni yapay zeka yasaları. Aslında yüz yüze konuştuk ve devletimizi deepfake’lerden korumak için elinden geleni yapacağına söz verdi. Ayrıca Senatör Corrado’nun tasarısının sponsorluğunu da hemen üstlendi. Ve ortak çabayla her şey yolunda giderse, Ocak 2024’e kadar New Jersey’i bir yapay zeka yasa tasarısı ile koruyabileceğiz. Ve bu beni inanılmaz derecede mutlu ediyor, kendi kasaba senatörümün bu önemli amaç uğruna savaşacak kadar önemsediğini bilmek.
Kongre üyesi [Joe] Morelle [of New York] ayrıca bizi diğer kongre üyeleriyle görüşmek üzere Washington DC’ye davet etti [from both parties].
– Dorota: Washington’daki ziyaretimizden sonra giderek daha fazla destek alabileceğimizi ve bir şeylerle başladığımızdan emin olabileceğimizi umuyoruz. O zaman her zaman daha iyisini yapabiliriz.
Bu size siyaset veya Amerikan hükümetinin çalışma şekli hakkında ne öğretti?
– Francesca: Bunu öğrendiğimde çok mutlu oldum – yani, bana ulaştığında 14 yaşındaydım, daha yeni 15 yaşına girdim – ama ben 14 yaşındayım ve [the lawmakers] beni dinlediler ve bana yardımcı oldular. Beni ve diğer kızları korumaya istekliydiler. Bundan öğrendiğim şey, açıkça konuşmak ve korkmamaktı.
Bu konuda polise rapor sunduğunuzu biliyorum ama umduğunuz hukuki yol nedir?
– Francesca: Bunu yapan kişinin uzaklaştırılmasını veya okuldan atılmasını gerçekten isterim, çünkü eğer okulunuzdan biriyse herkesin kendini rahat hissetmesinin önemli olduğunu düşünüyorum. Ayrıca bir özür de isterim. O kişiyi affederdim ama bilirsiniz, asla unutmam.
Dorota, okulun tepkisinden memnun olmadığını söylemiştin. Okulların bu gibi durumlara yanıt vermek veya bu tür durumların yaşanmasını önlemek için farklı şekilde yapmasını istediğiniz bir şey var mı?
– Dorota: Bu konuda eğitimin çok önemli olduğunu düşünüyorum; çocuklarımızı eğitmek, kendimizi eğitmek, sonra da sorumluluk almak. Bence bunu kullanmalıyız [opportunity] kızlarımıza buna değeceklerini öğretmek; Mağdur edilmiş olsalar bile, bu onların utanmaları gerektiği anlamına gelmez ve her şeyi olduğu gibi kabul etmeleri ve geçmesini ummaları gerekir. Harika bir okul bölgemiz var. Öğretmenlerimiz muhteşem. Francesca, öğretmenlerinin desteği olmadan tüm bu durumu atlatamazdı. Yeterince iyi şeyler söyleyemem.
Ancak yönetim olayların sona ermesini umuyor. Raporum yok. Hiçbir sonuç yok, sorumluluk yok, özür yok. Ben kendim bir eğitimciyim. Jersey City’de özel bir okulum var. Bir anne ve bir kadın olarak farklı bir şeyi savunduğumu düşünüyorum. Kızımı destekliyorum ama bir eğitimci olarak çocuklarımız için güvenli bir yer yaratılmasını savunuyorum çünkü bu herkesin başına gelebilir. İlle de kadın olması gerekmiyor ve bunun kabul edilemez olduğuna dair net bir mesaj vermemiz gerektiğini düşünüyorum.
[In a statement to MIT Technology Review, Westfield superintendent Raymond González said, “The Westfield Public School District has safeguards in place to prevent this from happening on our network and school-issued devices. We continue to strengthen our efforts by educating our students and establishing clear guidelines to ensure that these new technologies are used responsibly in our schools and beyond.” The school also said it conducted an immediate investigation and is working with police.]
Eğitimin çocuklara neyin uygun, neyin uygunsuz olduğunu ve kendilerini zararlardan nasıl koruyacaklarını öğreten bir rolü olduğunu düşünüyor musunuz?
– Dorota: Kesinlikle. Birçok kez düşünüyorum [digital education] bir beden eğitimi öğretmenine verilecek ve Onlar Yapay zekanın tehlikelerini öğretecek. Birbirimize karşı dürüst olalım: Bu çok karmaşık ve gelişmiş bir teknoloji ve sürekli değişiyor. Bu sınıfta bir uzmanın eğitim verdiğinden emin olmalıyız ve bu sadece okul yılının başında olmamalıdır. En az iki üç defa yapılmalı ve anlamlı bir şekilde iletilmelidir.
Gerçekten insanların hayatını etkiliyor. Ve Francesca’nın çok güçlü bir kişiliği var. O her zaman bir savaşçıydı. Ve kendi adına konuştuğu için onu alkışlıyorum. Başlangıçta bana şunu söylediğinde, Anne, kavga etmek istiyorum. Söyledim, Francesca, her iki şekilde de olabileceğini bilmeni istiyorum. Mutlu olan insanları duyacaksınız ve size gerçekten karşı olan insanları duyacaksınız ve buna hazırlıklı olmalısınız. Ve dedi ki: Çocuk değilim. İnsanların fikirlerini alabilirim ve konuşmak istiyorum. Ama herkes Francesca’yla aynı karaktere sahip olmayacak. Herkes evinde Francesca ile aynı desteği alamayacak. Ve tünelin sonundaki ışığı göremeyecek ve intihara ya da kendine zarar vermeye yönelecek kızlar ve erkekler olacak. Ve bunu beklememiz gerektiğini düşünmüyorum. Anlamlı bir eğitim en önemli şeydir.
– Francesca: Ayrıca tüm okul bölgelerini siber tacizle ilgili politikalarını güncelleyerek yapay zekanın tanımını eklemeye ve bir öğrenci tarafından derin sahtekarlıklar oluşturuluyorsa tanımlanmış sonuçları eklemeye çağırıyorum. Yasaların geçmesi zaman alabilir ancak okul politikaları hemen güncellenebilir ve güncellenmelidir.
Gerçekten çok büyük bir ivme yaratmışsınız gibi geliyor. Olumsuz tepkilerle karşılaştınız mı?
– Francesca: Hayır gerçek değil. Böylesine harika bir topluluğa sahip olduğumu ve arkadaşlarımın ve öğretmenlerimin desteğine sahip olduğumu bilmek çok güzel ve onlara teşekkür etmek istiyorum. Amerikalı olmaktan çok gurur duyuyorum. Şu an 15 yaşında olan bir kızın sesinin olumlu yönde değişim yaratabileceği bir ülkede yaşıyorum.
Bu hafta okuduklarım
- Hindistan’daki Instagram fenomenlerine yerel seçimleri etkilemek için siyasi kampanyalardan para ödeniyor. Bu, kampanya mesajları için daha küçük ve politik olmayan sosyal medya kişiliklerinin kullanıldığı büyüyen bir trendin parçası.
- AB Yapay Zeka Yasası müzakerelerin son aşamasına giriyor ve bazı kişiler tartışmaların iyi gitmediğinden endişe ediyor. AB Parlamentosu, Komisyon ve Konsey’in anlaşmayı sonuçlandırmak için 6 Aralık’a kadar bir ön tarihi var ve görünüşe göre teknoloji lobicileri tartışmaları yapışkan hale getiriyor.
- ABD hükümeti, platformlarında yabancı dezenformasyon kampanyaları yürütüldüğünde artık Meta’yı bilgilendirmeyecek. Yıllardır süren bir politikanın bu şekilde tersine çevrilmesi, muhafazakar bir hukuk kampanyasının sonucudur. Ve ABD seçimleri yaklaşırken bu, internetin sağlığı açısından iyi bir haber değil.
Bu hafta öğrendiklerim
Hugging Face ve Carnegie Mellon Üniversitesi’nin yeni bir araştırmasına göre, bir görüntü oluşturmak için yapay zekanın kullanılması bir ton enerji tüketiyor. Meslektaşım Melissa Heikkilä’nın bildirdiği gibi, “Henüz hakem değerlendirmesinden geçmemiş olan çalışmaları, devasa yapay zeka modellerinin eğitiminin inanılmaz derecede enerji yoğun olmasına rağmen bulmacanın yalnızca bir parçası olduğunu gösteriyor. Karbon ayak izlerinin çoğu fiili kullanımlarından kaynaklanıyor.” Araştırma, yapay zekanın görüntü veya metin oluşturma gibi farklı amaçlarla kullanılmasıyla ilişkili karbon emisyonlarının ilk kez hesaplandığını gösteriyor.