Şifrelemenin geleceği konusundaki mücadele açıklandı
Bu makale, MIT Technology Review’un güç, politika ve Silikon Vadisi hakkındaki haftalık teknoloji politikası bülteni The Technocrat’tan alınmıştır. Her Cuma gelen kutunuza almak için, onu kaydettire.
9 Ekim’de Birleşmiş Milletler’in yıllık İnternet Yönetişim Forumu’nda şifreleme, gizlilik politikası ve insan hakları konulu bir panelin moderatörlüğünü yaptım. Sahneyi Tor Projesi’nin yöneticisi Roger Dingledine; Kanada Gizlilik ve Erişim Konseyi Başkanı Sharon Polsky; ve insan hakları savunuculuğu örgütü Access Now’da kampanyacı olan Rand Hammoud. Hepsi şifrelemenin korunmasına şiddetle inanıyor ve onu savunuyor.
Sohbetimizde gündeme gelen bir konuyu size anlatmak istiyorum: Şifreli mesajların bir şekilde izlenmesine yönelik çabalar.
Dünyanın dört bir yanında (Avustralya, Hindistan ve son zamanlarda Birleşik Krallık’ta olduğu gibi) teknoloji şirketlerinin arka kapı erişimi de dahil olmak üzere şifrelenmiş mesajlar hakkında bilgi edinme yollarını geliştirmelerini isteyen politika önerileri ortaya çıkıyor. Ayrıca, çocuklara yönelik cinsel istismar materyalleri, suç ağları ve uyuşturucu kaçakçılığı gibi kötü amaçlı içeriğin yayılmasını önlemek amacıyla Signal ve Telegram gibi şifreli mesajlaşma uygulamalarında denetim ve güvenliği artırma çabaları da olmuştur.
Şifreleme savunucularının, uçtan uca şifrelemeyle garanti edilen kullanıcı mahremiyetini zayıflatması nedeniyle genellikle bu tür tekliflere karşı çıkması şaşırtıcı değildir.
Panel öncesi hazırlık çalışmamda ve ardından sohbetimizde, bazı içerik denetimlerinin yanı sıra platform politikalarının ve yasalarının daha fazla uygulanmasına izin verebilecek bazı yeni kriptografik teknolojiler hakkında bilgi sahibi oldum.olmadanşifrelemeyi kırmak. Bunlar şu anda bir nevi uç teknolojiler, çoğunlukla hala araştırma aşamasında. Her ne kadar birkaç farklı şekilde geliştiriliyor olsalar da, bu teknolojilerin çoğu, görünürde algoritmaların, şifrelemeyi kırmak veya mesajların içeriğini açığa çıkarmak zorunda kalmadan, sorunlu materyali işaretlemek için meta verilerindeki mesajları veya kalıpları değerlendirmesine olanak tanıyor.
Yasal ve politik olarak bu alan bir nevi eşek arısı yuvası; eyaletler platformlardaki yasa dışı faaliyetleri engellemek konusunda çaresiz durumda ancak ifade özgürlüğünün savunucuları, incelemenin sansüre yol açacağını savunuyor. Bence hepimizi çok iyi etkileyebileceği için izlemeye değer bir alan.
İşte bilmeniz gerekenler:
İlk olarak, şifreleme ve tartışmayla ilgili bazı temel bilgiler…
Şifrelemenin tam olarak nasıl çalıştığına aşina olmasanız bile, muhtemelen onu oldukça düzenli kullanıyorsunuzdur. Bu, içeriklerinin özel kalmasını sağlamak amacıyla mesajları karıştırmak için kriptografiyi (esasen kodlardan sorumlu matematik) kullanan bir teknolojidir. Bugün, gönderenin şifrelenen ve şifreli metin olarak gönderilen bir mesajı ilettiği uçtan uca şifreleme hakkında çok konuşuyoruz. Daha sonra alıcının mesajı düz metin olarak okuyabilmesi için şifresini çözmesi gerekir. Uçtan uca şifrelemeyle, şifreli uygulamalar yapan teknoloji şirketleri bile bu şifreyi kıracak “anahtarlara” sahip değil.
Şifreleme, başlangıcından bu yana, özellikle de yüksek profilli suçlar veya terör saldırılarından sonra, politika perspektifinden tartışılıyor. (2015’teki San Bernardino saldırısına ilişkin soruşturma buna bir örnektir.) Teknoloji şirketleri, erişim sağlamanın önemli riskler taşıyacağını, çünkü bugün aslında mevcut olmayan bir ana anahtarı kötü aktörlerden saklamanın zor olacağını savunuyor. Bu arka kapıların karşıtları ayrıca bu tür erişim konusunda kolluk kuvvetlerine gerçekten güvenilemeyeceğini söylüyor.
O halde bana bu yeni teknolojiden bahsedin…
Şu anda burada izlenecek iki ana teknoloji grubu var.
Otomatik tarama:Bu daha popüler ve daha tartışmalı. Mesaj içeriğini tarayan ve onu sakıncalı materyallerden oluşan bir veritabanıyla karşılaştıran yapay zeka destekli sistemleri içerir. Bir mesajın potansiyel olarak kötüye kullanım amaçlı olarak işaretlenmesi durumunda teknoloji şirketleri teorik olarak mesajın gönderilmesini engelleyebilir veya bir şekilde materyali kolluk kuvvetlerine veya alıcıya işaretleyebilir. Bunu yapmanın iki ana yolu vardır: istemci tarafı tarama ve sunucu tarafı tarama (bazen homomorfik şifreleme olarak da adlandırılır), temel farklar mesajın nasıl ve nerede taranacağı ve bir veritabanıyla karşılaştırılacağıdır.
İstemci tarafı tarama, mesajlar şifrelenip gönderilmeden önce kullanıcıların cihazlarında gerçekleşir; sunucu tarafı taraması, mesaj şifrelenip gönderildikten sonra gerçekleştirilir ve mesaj alıcıya ulaşmadan önce durdurulur. (Bazı gizlilik savunucuları, algoritmaların zaten şifrelenmiş mesajı gerçek içeriğini açıklamadan veri tabanı eşleşmelerini kontrol etmek için işlemesi nedeniyle sunucu tarafı taramanın anonimliği korumak için daha fazlasını yaptığını savunuyor.)
Eksileri:Teknik açıdan bakıldığında, her mesajı gönderilmeden veya alınmadan önce bir veritabanıyla karşılaştırmak çok fazla bilgi işlem gücü gerektirir, dolayısıyla bu teknolojiyi ölçeklendirmek çok kolay değildir. Ek olarak, denetleme algoritmaları tam olarak doğru değildir; dolayısıyla bu, yapay zekanın sorunlu olmayan mesajları işaretlemesi riskini doğurur, bu da konuşmanın kısıtlanmasına ve potansiyel olarak masum insanların tuzağa düşürülmesine neden olur. Sansür ve mahremiyet açısından bakıldığında bu yaklaşımın ne kadar tartışmalı olabileceğini görmek zor değil. Peki sakıncalı materyaller veri tabanında nelerin yer alacağına kim karar verecek?
Apple, çocuklara yönelik cinsel istismar materyallerini çökertmek için 2021’de müşteri tarafı taramanın uygulanmasını önerdi ve plandan hızla vazgeçti. Signal’ın başkanı Meredith Whittaker ise “istemci tarafı taraması, hükümetin her ifadeyi ifade edilmeden önce kelimenin tam anlamıyla kontrol etmesini sağlayacak son derece güvensiz teknolojiyi zorunlu kılarak uçtan uca şifrelemenin tüm varsayımını geçersiz kılan Faustvari bir pazarlıktır” dedi.
Mesaj açıklığı ve ileri izleme:Mesaj Franking, kötü amaçlı mesajların doğrulanabilir raporlarını üretmek için kriptografiyi kullanır. Şu anda kullanıcılar şifreli bir mesajlaşma uygulamasında kötüye kullanım bildirdiğinde, bu raporları doğrulamanın bir yolu yok çünkü teknoloji şirketleri mesajların gerçek içeriğini göremiyor ve ekran görüntüleri kolayca değiştirilebiliyor.
Franking, Facebook tarafından 2017 yılında önerildi ve temel olarak her mesaja görünmez bir elektronik imza gibi işlev gören bir etiket yerleştiriyor. Bir kullanıcı bir mesajı kötü amaçlı olarak bildirdiğinde Facebook, rapor edilen mesajın tahrif edilmediğini doğrulamak için bu etiketi kullanabilir.
İleri izleme, mesaj yönlendirmeyi geliştirir ve platformların şifrelenmiş bir mesajın nereden geldiğini izlemesine olanak tanır. Kötüye kullanım amaçlı mesajlar çoğu zaman birçok kez iletilecek ve paylaşılacak, bu da kullanıcılar tarafından bildirilmiş ve doğrulanmış olsa bile platformların kötü amaçlı içeriğin yayılmasını kontrol etmesini zorlaştırıyor. Mesaj Franking gibi ileri izleme de platformların bir mesajın nereden geldiğini görmesine olanak tanıyan kriptografik kodlar kullanır. Platformlar daha sonra teorik olarak sorunlu mesajları yayan hesabı veya hesapları kapatabilir.
Eksileri:Bu teknikler aslında teknoloji şirketlerinin veya yetkililerin özel mesajlarda daha fazla denetleme gücüne sahip olmasına olanak sağlamaz, ancak kullanıcı merkezli ve topluluk denetiminin daha sağlam olmasına yardımcı olur ve şifrelenmiş alanlarda daha fazla görünürlük sunar. Ancak bu yaklaşımın en azından ABD’de gerçekten yasal olup olmadığı belli değil; bazı analizler bunun ABD telefon dinleme yasasını ihlal edebileceğini öne sürdü.
Sıradaki ne?
Şimdilik bu teknolojilerin hiçbiri teknik açıdan uygulamaya hazır görünmüyor ve yasal olarak sallantılı bir zeminde olabilirler. Birleşik Krallık’ta Çevrimiçi Güvenlik Yasası’nın daha eski bir sürümü, aslında şifreli mesajlaşma sağlayıcılarının bu tür teknolojileri kullanmasını zorunlu kılıyordu, ancak bu ifade, bu teknolojinin hazır olmadığı anlaşıldıktan sonra geçen ay kaldırıldı. Meta, 2023’ün sonuna kadar Facebook Messenger’ı ve kısa bir süre sonra da Instagram doğrudan mesajlarını şifrelemeyi planlıyor, dolayısıyla bu teknolojiler üzerine kendi araştırmalarından herhangi birini dahil edip etmediğini görmek ilginç olacak.
Genel olarak ve belki de çalışmaları göz önüne alındığında, panelistlerim bu alan hakkında pek de iyimser değiller ve politika görüşmelerinin her şeyden önce şifrelemeyi korumaya ve gizliliği artırmaya odaklanması gerektiğini savundular.
Panelimiz sonrasında Dingledine’in bana söylediği gibi, “Teknoloji sınırsız bir yerdir. Bir kişi için şifrelemeyi kırarsanız, herkes için şifrelemeyi kırmış olursunuz, bu da ulusal güvenliği baltalar ve muhtemelen korumaya çalıştığınız gruplara zarar verir.”
Başka ne okuyorum
- Şifreli alanları denetlemenin zorlukları bu hafta İsrail ve Filistin’deki dehşetle birlikte net bir şekilde ortaya çıktı. Hamas militanları infazları sosyal medya üzerinden yayınlama sözü verdiler ve şu ana kadar şifreli bir uygulama olan Telegram’ı yoğun bir şekilde kullanıyorlar. Washington Post’tan Drew Harwell, bu tür şiddet içerikli içeriklerin internetten silinmesinin neden imkansız olabileceğini açıklıyor.
- ABD-Çin teknoloji savaşının önemli bir cephesi, yapay zeka için ihtiyaç duyulan gelişmiş bilgi işlem çipleri üzerindeki kontrol mücadelesi oldu. Atlantic’te Karen Hao, ABD’nin şimdi Çin’i gelişmiş yapay zekadan ablukaya almanın yollarını bulmayı düşündüğünü yazıyor.
- Joe, İç Güvenlik Bakanlığı’ndaki bir gözetim grubundan gelen yeni bir raporda, Göçmenlik ve Gümrük Muhafaza, Gümrük ve Sınır Koruma ve Gizli Servis dahil olmak üzere birçok kurumun akıllı telefonlardaki uygulamalardan toplanan konum verilerini kullanırken yasayı çiğnediğini ortaya çıkardı, diye yazıyor Joe 404 Media’da Cox.
Bu hafta öğrendiklerim
Teknoloji şirketi için bağlayıcı politikalar yayınlayan bağımsız bir organ olan Meta’nın Gözetim Kurulu, ilk deepfake vakası üzerinde çalışıyor. Facebook’un Başkan Joe Biden’ın manipüle edilmiş bir videosunu yayınlamama yönünde aldığı kararı incelemeyi kabul ettiği bildirildi. Meta, videonun yapay zeka tarafından oluşturulmaması ve manipüle edilmiş konuşma içermemesi nedeniyle kaldırılmadığını söyledi.
Kurul, bir blog yazısında şöyle yazdı: “Kurul, Meta’nın politikalarının, insanları politikacıların konuşma dışında yapmadıkları eylemlerde bulunduğuna inandıracak şekilde yanıltabilecek değiştirilmiş videoları yeterince kapsayıp kapsamadığını değerlendirmek için bu vakayı seçti.”
Bu, yönetim kurulunun, ABD başkanlık seçimleri öncesinde sosyal medya platformunun deepfake politikasını yakında yeniden onaylayacağı veya bu politikada değişiklik yapacağı anlamına geliyor; bu, üretken yapay zekanın dijital bilgi ekosistemlerine hızla girmeye devam etmesi nedeniyle önümüzdeki yıl büyük sonuçlar doğurabilir.